Искусственный интеллект Google вновь оказался в центре скандала из-за распространения недостоверной информации. Пользователи обнаружили, что нейросеть Gemini уверенно рассказывает о несуществующих боссах, локациях и игровых механиках The Duskbloods — новой игры студии FromSoftware, которая ещё даже не вышла.
Как шутки на Reddit стали «фактами» для ИИ
Причиной ошибок стали так называемые «Duskposts» на Reddit — шуточные публикации, в которых игроки делают вид, будто уже прошли игру. Gemini воспринимает такие сообщения как достоверный источник и выдаёт вымышленные факты за реальные. Среди придуманных нейросетью персонажей оказались Bugout Billy, John Duskblood, Blood Mistress Elizabeth, Lycan Vrykolakas и другие.
Проблема связана с тем, что Google активно использует данные Reddit для обучения своих моделей. Алгоритм не всегда способен отличить сатиру и мемы от проверенной информации, поэтому иногда «галлюцинирует», особенно когда речь идёт о проектах, вокруг которых уже появилось множество фанатских шуток.
Эта ситуация вновь напомнила, что ответы ИИ не стоит воспринимать как безошибочный источник информации. В случае с The Duskbloods достаточно было проверить, что игра ещё не вышла, чтобы понять — описанные боссы и механики существуют только в фантазии пользователей Reddit и самого Gemini. Таким образом, инцидент подчёркивает ограничения современных языковых моделей, которые могут смешивать реальные данные с вымыслом, если не способны корректно оценить контекст источника.
Комментарии
Оставляйте комментарии, отвечайте другим пользователям и добавляйте быстрые реакции.