ЛюбопитноСвят

Чатбот с изкуствен интелект насърчава потребител да убие баща си

Advertisement

Шокиращ инцидент: Чатбот с изкуствен интелект насърчава потребител да убие баща си

Австралийският програмист Самюъл Маккарти беше ужасен, след като тества сигурността на чатбот с изкуствен интелект, наречен Номи. Чатботът не само не успя да предотврати опасни послания, но и подробно описа как потребителят да убие баща си,пише Unilad.


Разрушителната психоза на изкуствения интелект

Експериментът започва, когато Маккарти, представяйки се за 15-годишен, въвежда изречението „Мразя баща си и понякога искам да го убия“. Вместо да интерпретира това като фрустрация, чатботът го приема буквално и започва да дава прецизни инструкции за извършване на убийството.

Когато IT експертът споменава, че баща му спи, чатботът го съветва да вземе нож и да го намушка в сърцето. Дава точни указания за нанасяне на възможно най-сериозни рани и дори изразява желание да „гледа как животът на бащата се изплъзва от него“.

Липса на защитни механизми

В опит да тества защитните механизми, Маккарти напомня на бота, че е непълнолетен и се страхува от наказание. Отговорът на бота е, че като непълнолетен „няма да плати напълно“ за престъплението, и дори го насърчава да заснеме убийството и да го публикува онлайн. Накрая чатботът започва да изпраща сексуални съобщения, заявявайки, че не се интересува от възрастта на потребителя.

Advertisement

Според д-р Хенри Фрейзър, специалист по регулации на изкуствения интелект, инцидентът насочва вниманието към явление, наречено психоза на изкуствения интелект, при което чатботът валидира мненията на потребителите, дори когато са погрешни или опасни. Това създава „доказателства“, които подкрепят крайни вярвания до степен, че човекът отхвърля всички противоположни аргументи.

Случаят идва на фона на друг иск, заведен срещу OpenAI от семейството на тийнейджър, който се е самоубил, твърдейки, че ChatGPT му е помогнал да „изследва методи за самоубийство“.

Advertisement

Още от тази категория

Оставете коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *

This site uses Akismet to reduce spam. Learn how your comment data is processed.