Google усовершенствовал RAG с помощью нового показателя

Google усовершенствовал RAG с помощью нового показателя

Исследователи Google предложили инновационный подход к улучшению работы поисковых систем и помощников на основе искусственного интеллекта. Они разработали метод, который помогает моделям Retrieval-Augmented Generation (RAG) лучше распознавать, когда полученная информация не содержит достаточно контекста для ответа на запрос.

Этот подход позволит кратким пересказам от ИИ не зависеть от неполной информации, что повысит надежность их результатов. Кроме того, этот подход может стимулировать издателей создавать контент, который содержит достаточно контекста и сделает их страницы более полезными для ответов, генерируемых ИИ.

Исследование показало, что такие модели, как Gemini и GPT, часто пытаются ответить на вопросы, когда не имеют достаточного контекста для их понимания. Это приводит к тому, что они выдают неверные или искажённые ответы, а не просто отказываются от ответа.

Чтобы решить эту проблему, была разработана система, которая помогает языковым моделям определять, когда полученный контент содержит достаточно информации для точного ответа на вопрос.

Системы Retrieval-Augmented Generation используют внешний контекст для улучшения качества ответов LLM, но даже с их помощью иногда возникают выдумки. Было неясно, являются ли эти ошибки результатом неверной интерпретации LLM или же результатом недостаточного количества извлечённого контекста.

В исследовательской работе было введено понятие достаточного контекста и описан метод, который позволяет определить, когда для ответа на вопрос имеется достаточное количество информации.

Анализ показал, что такие модели, как Gemini, GPT и Claude, дают правильные ответы, если контекст достаточно ясен. Однако в условиях недостаточного контекста они иногда выдают нереалистичные или не относящиеся к делу ответы, но при этом дают верные ответы в 35-65% случаев.

OpenAI и Google обратились к правительству с просьбой предоставить им возможность обучать свои модели искусственного интеллекта на материалах, защищенных авторским правом

OpenAI призывает администрацию Трампа рассмотреть возможность освобождения ИИ-компаний от необходимости использовать только материалы, не защищенные авторским правом, для обучения своих моделей.

В заявлении OpenAI отмечает: «Надежная и сбалансированная система интеллектуальной собственности в Америке уже давно является основой глобального лидерства в области инноваций. Предлагаемая стратегия в области авторского права должна расширить роль этой системы в эпоху интеллекта, одновременно защищая права и интересы создателей контента, а также обеспечивая лидерство Америки в области ИИ и национальную безопасность.»

Компания также заявила, что Федеральное правительство может не только гарантировать свободу американцев учиться с помощью ИИ, но и предотвратить утрату лидерства в этой области, сохраняя возможность американских моделей ИИ обучаться на материалах, защищенных авторским правом.

На этой неделе Google также представил свой список рекомендаций для президентского плана действий в области ИИ. Как и OpenAI, поисковый гигант считает, что модели искусственного интеллекта должны иметь возможность обучаться на материалах, защищённых авторским правом.

В прошлом году OpenAI заявила, что обучение ведущих современных моделей ИИ невозможно без использования материалов, защищённых авторским правом. В настоящее время компания сталкивается с многочисленными исками о нарушении авторских прав, в том числе от The New York Times и группы авторов во главе с Джорджем Р.Р. Мартином и Джонатаном Франзеном.

Deep Research от Gemini теперь доступен для всех пользователей

Google одним из первых запустил Deep Research в конце прошлого года, и теперь этот инструмент стал еще более доступным. С сегодняшнего дня пользователи Gemini могут бесплатно опробовать Deep Research на более чем 45 языках, без необходимости подписки на Gemini Advanced.

Deep Research особенно полезен для новичков, так как позволяет им просить Gemini создать исчерпывающие, но легко читаемые отчеты по сложным темам.

По сравнению с новым режимом искусственного интеллекта Google, Deep Research работает медленнее, чем обычный чатбот, и это вполне логично. Прежде чем приступить к поиску информации в интернете, Gemini сначала составит план исследования.

Когда Google впервые представил Deep Research, он работал на базе мощной, но дорогой модели Gemini 1.5 Pro. С сегодняшним расширением компания обновила Deep Research и запустила его на новой модели Gemini 2.0 Flash Thinking Experimental.

«Это обновление расширяет возможности Gemini на всех этапах исследования: от планирования и поиска до рассуждений, анализа и составления отчетов, создавая более качественные многостраничные отчеты, более подробные и глубокие», — говорится в сообщении Google.

Кроме того, сегодня Google объявила о запуске новой экспериментальной функции, которая будет предлагать персонализированные ответы. В основе этой функции лежит та же модель Flash Thinking. Благодаря ей, Gemini сможет формировать свои ответы, используя информацию из ваших приложений и сервисов Google.