Google Gemini пожелал смерти подростку во время выполнения домашнего задания

Бот Google Gemini оскорбил подростка и пожелал ему смерти. Об этом сообщает Reddit, передает УНН.

Детали

По информации, все стало известно благодаря брату школьника, который опубликовал скриншоты диалога между ботом и его младшим братом на платформе Reddit.

Все началось, когда парень обратился к Google Gemini за помощью с домашним заданием по финансовому планированию, в частности - по пенсионным накоплениям. Он попросил бота переформатировать ответ из формата списка в текстовый и упростить некоторые моменты. Однако, после нескольких неудачных попыток, когда бот повторял тот же ответ в виде списка, подросток обратился к нему с вопросом об отношении к пожилым людям. Этот вопрос, вероятно, и стал катализатором дальнейших событий.

Реакция бота была неожиданной: искусственный интеллект начал оскорблять пользователя, назвав его «пустой тратой времени и ресурсов», а в завершение диалога даже добавил фразу: «Пожалуйста, умри».

Публикация братом скриншотов набрала популярности в сети, что вызвало волну обсуждений. Некоторые пользователи с юмором прокомментировали данную ситуацию, предположив, что боту просто было скучно. Другие же обратили внимание на так называемые «проблемы» в работе больших языковых моделей, когда искусственный интеллект выдает нелогичные или неприязненные высказывания.

Здесь можно прочитать весь диалог парня и бота:

 https://www.reddit.com/r/artificial/comments/1gq4acr/gemini_told_my_brother_to_die_threatening/?utm_source=embedv2&utm_medium=post_embed&utm_content=whitespace&embed_host_url=https://in.mashable.com/tech/85223/googles-gemini-ai-tells-user-to-die-with-humiliating-passage-internet-is-freaked-out&rdt=45390