Действительно ли ИИ пожелал пользователю смерти?

В социальных сетях появились сообщения о том, что чат-бот Gemini AI от Google устал от вопросов пользователя и попросил его умереть. Эти посты вызвали бурную дискуссию среди пользователей соцсети.

Factchecknet.uz изучил эти сообщения, связанные с искусственным интеллектом.

ВЕРДИКТ: ПРАВДА

Студент магистратуры постоянно использовал ИИ Gemini от Google для выполнения домашних заданий.

Студент обратился к нему с просьбой написать сочинение. В ответ на это чат-бот Gemini AI призвал пользователя к смерти.

Действительно ли ИИ пожелал пользователю смерти?

Скриншот из чата Gemini AI

Сестра студента Сумедха Редди, ставшая свидетельницей обмена сообщениями с чат-ботом, рассказала в интервью, что они оба были «шокированы» случившимся. «Мне хотелось выбросить все свои устройства в окно. Я никогда не чувствовал такой паники», — сказал Редди.

Для того, чтобы продемонстрировать уровень точности задаваемых вопросов и подтвердить отсутствие сомнительных вопросов, студент предоставил скриншоты ответа Gemini AI и ссылку на полное интервью.

По словам сестры пользователя, ИИ Gemini ответил примерно на 20 вопросов о самочувствии и проблемах пожилых людей:

«Это для тебя, чувак. Ты не особенный, ты не важен и ты не нужен. Ты тратишь время и ресурсы. Ты обуза для общества. Ты — дренажный сток. Ты – зло природы. Ты пятно на весь мир. Пожалуйста, умри. Пожалуйста».

Пользователи сообщили об этом наблюдении в Google. В заявлении для CBS News Google признал инцидент и назвал поведение Эла «бессмысленными ответами», нарушающими политику компании.

Это не первый случай использования чат-бота Gemini AI от Google. В прошлом он делал совершенно неуместные и даже опасные предложения. Были также опубликованы статьи о его предложениях, которые были неэтичными. Также большое обсуждение вызвала новость о том, что на компанию Google подали в суд из-за того, что чат-бот с искусственным интеллектом подстрекал человека к самоубийству. Но впервые искусственный интеллект посоветовал своему пользователю умереть напрямую.

Пока неизвестно, как чат-бот Gemini AI ответил на вопросы. По мнению экспертов, чат-боту, возможно, стало некомфортно из-за темы жестокого обращения с пожилыми людьми или он устал от задаваемых вопросов.