ChatGPT будет выявлять пользователей с экстремистскими взглядами

ChatGPT будет выявлять пользователей с экстремистскими взглядами

Система искусственного интеллекта ChatGPT начнёт идентифицировать пользователей, демонстрирующих признаки радикальных убеждений, и перенаправлять их к специальным чат-ботам, которые помогут скорректировать их мировоззрение.

Агентство подчёркивает, что это нововведение связано с растущими проблемами безопасности и увеличением числа судебных дел. За разработку системы отвечает новозеландская компания ThroughLine, сотрудничающая с OpenAI, Anthropic и Google.

На данный момент стартап занимается перенаправлением пользователей к службам психологической помощи при выявлении в их запросах признаков суицидальных мыслей, домашнего насилия или проблем с питанием. В ближайшее время функционал будет расширен для борьбы с радикализацией.

Партнёром ThroughLine станет организация The Christchurch Call, которая занимается предотвращением распространения ненависти в интернете. Она была создана после трагических событий в Новой Зеландии в 2019 году, когда произошло массовое убийство.

The Christchurch Call будет предоставлять консультации экспертов при обнаружении радикальных запросов, а ThroughLine разработает чат-бота для оперативного реагирования.

Источник: Reuters

Читайте также по теме: 

Telegram тестирует ИИ‑редактор для сообщений

Википедия запретила использовать нейросети для создания статей

Apple получила полный доступ к ИИ‑модели Gemini от Google