Российские исследователи из Университета ИТМО разработали нейросеть DiffResearch, которая способна готовить подробные аналитические отчеты примерно в шесть раз быстрее традиционной языковой модели.

В основе DiffResearch лежат и так называемые диффузионные языковые модели, которые формируют текст иначе, чем большинство современных нейросетей. Обычные модели генерируют ответ последовательно, слово за словом, тогда как диффузионные могут одновременно обрабатывать несколько фрагментов текста и постепенно уточнять их содержание. Благодаря такому подходу система намного быстрее планирует исследование, обрабатывает найденные сведения и составляет итоговый документ. Наибольшая разница наблюдалась при планировании исследования и написании текста: эти этапы ускорились в 10-12 раз.

Разработчики также предложили механизм, позволяющий начинать поиск информации еще до того, как нейросеть полностью сформулирует поисковый запрос. Система извлекает подходящие фрагменты из промежуточных результатов генерации и сразу передает их поисковому модулю. В испытаниях такой подход обеспечил почти двукратное ускорение отдельного этапа подготовки поисковых запросов.

Важно подчеркнуть, что скорость обработки информации не сопровождалась ухудшением автоматической оценки качества.

Созданная нейросеть может применяться для анализа научных публикаций, подготовки технических обзоров и обработки больших массивов документов. Особенно полезной она может оказаться в задачах, где требуется регулярно собирать информацию из множества источников и формировать развернутые отчеты.