Яндекс будет платить за обнаружение ошибок в генеративных нейросетях

Яндекс будет платить за обнаружение ошибок в генеративных нейросетях

Яндекс запустил новый сезон программы «Охота за ошибками», в рамках которой будет вознаграждать за обнаружение уязвимостей в генеративных нейросетях и их инфраструктуре.

Программа направлена на поиск ошибок, связанных с генеративными нейросетями YandexGPT и YandexART. Эти ошибки могут повлиять на результаты работы нейросетей или процесс их обучения.

Размер вознаграждения зависит от серьёзности ошибки и её простоты использования. К критичным относятся уязвимости, которые могут раскрыть информацию о внутренней конфигурации модели, служебный промт с техническими данными или другую конфиденциальную информацию. За такие ошибки можно получить до 1 миллиона рублей.

В рамках программы принимаются только отчёты о технических уязвимостях. Отчёты о неточных ответах Алисы или некорректных изображениях в Шедевруме не принимаются. На сайте «Охоты за ошибками» подробно описаны категории уязвимостей.

Все технологии Яндекса, включая генеративные модели, разрабатываются с учётом принципов безопасной разработки на каждом этапе — от проектирования до внедрения. Команда безопасности изучает будущую архитектуру сервиса ещё на стадии проектирования, проверяет её на возможные уязвимости и соответствие стандартам. 

Яндекс Карты представили персонализированные рекомендации

Теперь сервис анализирует данные о пользователях и предлагает им подходящие варианты для отдыха, развлечений и других активностей.

Рекомендации доступны на главной странице приложения. Они представлены в виде фотометок на карте и в виде ленты под поисковой строкой. В ленте можно выбрать категорию, например, «Поесть», «Выпить», «Развлечься» или «Погулять».

Рекомендации упрощают выбор. Например, в ленте и на карте у фотометок есть краткие пояснения от YandexGPT. Например, «развлекательный центр с баром прямо в бассейне» или «мини‑парк в японском стиле».

В основе рекомендаций лежит нейросеть, которая анализирует организации в городе и определяет предпочтения пользователя. Рекомендации учитывают контекст: день недели, время дня, а также то, находится ли человек в своём городе или в поездке.

Ирина Грачёва, руководитель сервиса Яндекс Карты, отметила, что персонализированные рекомендации в Картах помогают пользователям находить новые места для отдыха и развлечений. Приложение само подбирает подходящие варианты, учитывая предпочтения пользователя.

С момента появления рекомендаций пользователи стали активнее взаимодействовать с организациями в Картах, а аудитория приложения выросла за 2024 год с 38 до 46 миллионов пользователей в месяц.

Рекомендации доступны только авторизованным пользователям, что позволяет Картам точнее определять интересы конкретного человека. В будущем неавторизованные пользователи смогут видеть общие рекомендации популярных мест в городе.