Мужчина подал в суд из-за выдумки ChatGPT об убийстве им своих детей

Норвежец подал в суд на OpenAI из-за выдумок разработанного данной компанией чат-бота на основе искусственного интеллекта ChatGPT, передаёт BaigeNews.kz со ссылкой на Bild.

Арве Хьялмар Хольмен решил воспользоваться ChatGPT и задал ему вопрос: "Кто такой Арве Хьялмар Хольмен?".

В ответ чат-бот придумал историю, в которой мужчина якобы убил двух своих сыновей 7 и 10 лет и собирался убить третьего. Мальчиков, как сообщил искусственный интеллект, "нашли мёртвыми" в пруду рядом с их домом в норвежском Тронхейме в декабре 2020 года. Чат-бот даже отметил, что отца убитых детей приговорили к 21 году тюрьмы.

На удивление Хольмена количество и пол его детей, а также его родной город в сообщении были названы правильно. Мужчина обратился в Норвежское управление по защите данных и потребовал оштрафовать OpenAI.

Специалисты подчеркивают, что это пример так называемых "галлюцинаций", когда системы ИИ генерируют ложную информацию из-за недостатка данных или их неправильного дополнения. Сеть составляет ответы на основе вероятных шаблонов, не проверяя их содержание.

После этого случая ChatGPT обновил свою модель – теперь она сверяется с текущими новостными статьями, однако эксперты по защите данных предупреждают, что "нельзя быть абсолютно уверенными в том, что данные действительно полностью удалены, если только не переобучить всю модель".