ChatGPT научится распознавать экстремистские наклонности и перенаправлять пользователей

Подробности

Компания ThroughLine из Новой Зеландии создаёт систему, которая позволит ChatGPT распознавать пользователей с экстремистскими наклонностями. При обнаружении соответствующих запросов искусственный интеллект будет перенаправлять таких людей в специализированные чат-боты для проведения профилактической работы.

Эта инициатива представляет собой попытку решить проблемы безопасности, возникающие на фоне растущего количества судебных исков к технологическим компаниям. Партнёрство с ведущими разработчиками ИИСтартап ThroughLine сотрудничает не только с OpenAI, создателем ChatGPT, но и с другими ключевыми игроками на рынке искусственного интеллекта — компаниями Anthropic и Google.

Такой широкий охват партнёров позволяет разрабатывать универсальные решения, которые могут быть интегрированы в различные платформы и сервисы. Основная цель сотрудничества — создание эффективных инструментов для выявления потенциально опасного контента и поведения пользователей. Ранее ThroughLine уже занимался разработкой систем для перенаправления пользователей в службы кризисной поддержки при обнаружении запросов, связанных с угрозой самоповреждения, домашнего насилия или расстройств пищевого поведения.

Теперь компания расширяет функционал своих решений, добавляя возможность предотвращения насильственного экстремизма. Этот шаг отражает растущую озабоченность проблемой радикализации через онлайн-платформы. Важным партнёром в этой инициативе выступает организация The Christchurch Call, созданная после крупнейшего теракта в Новой Зеландии в 2019 году. Эта компания специализируется на борьбе с разжиганием ненависти в интернете и будет предоставлять экспертные рекомендации при обнаружении экстремистских запросов.

Совместная работа позволит создать более эффективные механизмы противодействия радикализации. ThroughLine возьмёт на себя разработку специализированного чат-бота для оперативного вмешательства при выявлении потенциально опасных пользователей. Этот подход сочетает технологические решения с экспертными знаниями в области предотвращения экстремизма, создавая комплексную систему для снижения рисков радикализации через платформы искусственного интеллекта.