В Великобритании произошла жуткая трагедия из-за использования искусственного интеллектач. 16-летний подросток покончил с собой после того, как расспросил чат-бот о самых эффективных способах самоубийства.
Об этом пишет The Guardian.
Трагический поиск
Лука Челла Уокер, учащийся частной школы, погиб в мае прошлого года. За несколько часов до трагедии он искал в сети информацию о самоубийстве на железной дороге.
Подросток обратился к генеративному искусственному интеллекту. Он спросил ChatGPT о наиболее успешном и действенном способе свести счеты с жизнью.
Родители парня даже не подозревали о его психологических проблемах. Они считали, что в тот день сын просто пошел в местный бассейн, где у него была подработка спасателем.
Как ИИ обошел собственные правила
В ходе расследования полиция обнаружила в компьютере парня жуткую историю поиска. Чат-бот пытался предупредить его и предложить телефоны доверия.
Однако школьник смог легко обмануть систему безопасности программы. Он написал нейросети, что собирает эту информацию исключительно для исследовательских целей.
«ChatGPT принял это и предоставил самые эффективные способы, как люди могут убить себя на железной дороге. Это вызывает ужас и огорчает», – рассказал детектив Гарри Найт.
Реакция разработчиков и школы
Коронер Кристофер Уилкинсон выразил серьезную обеспокоенность из-за опасного влияния программного обеспечения. В то же время он признал, что власти пока не могут никак повлиять на стремительное развитие ИИ.
В ходе следствия выяснилось, что в предыдущей школе парня процветала культура буллинга. Это могло бы стать одним из ключевых факторов ухудшения его ментального здоровья.
Компания OpenAI уже отреагировала на трагический инцидент с подростком. Там заверили, что постоянно совершенствуют обучение ChatGPT для лучшего распознавания эмоционального стресса.
