Google Gemini ежедневно генерирует миллионы ошибочных ответов в поиске

Подробности

Согласно исследованию стартапа Oumi, проанализировавшего 4326 поисковых запросов, встроенная в поиск Google нейросеть Gemini даёт неверные ответы примерно в 10% случаев. Учитывая, что поисковая система обрабатывает около 5 триллионов запросов в год, пользователи могут сталкиваться с 57 миллионами неточных ответов каждый час и почти с миллионом в минуту. Точность улучшается, но проблемы остаютсяТестирование показало, что в октябре версия Gemini 2 давала точные ответы в 85% случаев, а к февралю Gemini 3 улучшила этот показатель до 91%.

Однако представители Google назвали результаты Oumi ошибочными, заявив, что такой подход не отражает реальное поведение пользователей в поиске. Внутренние тесты компании показывают, что Gemini 3 при автономной работе без поисковой системы галлюцинирует в 28% случаев.

Это указывает на фундаментальные проблемы с генерацией достоверной информации, которые сохраняются даже в улучшенных версиях нейросети. Особую сложность представляет работа с источниками: Google пытается подкреплять ответы искусственного интеллекта релевантными ссылками, но эти источники часто не подтверждают утверждения Gemini. Расхождения между ответами и их источниками увеличились после февральского обновления, поднявшись с 37% в Gemini 2 до 56% в Gemini 3.

Исследователи также обнаружили, что сводки искусственного интеллекта подвержены манипуляциям, как показал инцидент с ложной информацией от журналиста BBC, которую Google повторил в своей выдаче. Крупные технологические компании признают эти проблемы, советуя пользователям перепроверять информацию из ИИ-инструментов.