Компания Google анонсировала экспериментальный исследовательский прототип Science One Framework*, предназначенный для проведения прозрачных и достоверных научных изысканий с помощью искусственного интеллекта. Главная цель проекта — полностью исключить «галлюцинации» нейросетей.
-
Сбор доказательств («режим детектива») ИИ автономно ищет публикации, датасеты и документацию по теме исследования, анализирует их и отбирает подтверждённые факты.
-
Построение «цепочки доказательств» (Chain of Evidence) Каждый тезис или гипотеза выстраивается в логическую цепочку: Источник
+ Данные 
Вывод 
. -
Блокировка генерации без источников Если у модели нет прямого подтверждения утверждения в найденных документах, она не включает его в отчёт. Это полностью исключает выдуманные цитаты, факты и несуществующие ссылки.
-
Формирование проверяемого отчёта На выходе исследователь получает структурированный материал, где к каждому предложению или выводу прикреплена точная ссылка на первоисточник (статью, график или конкретную строку данных).
Фреймворк работает по принципу детектива, выстраивая «цепочку доказательств» (chain of evidence). Каждое выдвинутое утверждение ИИ обязан сопоставлять с реальным задокументированным источником. Ожидается, что подборка подтверждённых фактов позволит учёным быть уверенными в точности и надёжности получаемых результатов.
ссылка на оригинал статьи https://habr.com/ru/articles/1065102/