Исследователи открыли Sky-T1, модель AI с «рассуждающими» возможностями

Модели AI с возможностями рассуждения становятся все проще и дешевле в разработке. В пятницу команда NovaSky из лаборатории Sky Computing Lab Калифорнийского университета в Беркли выпустила Sky-T1-32B-Preview, модель рассуждения, которая конкурентоспособна с ранней версией o1 от OpenAI по ряду ключевых показателей. Sky-T1, по всей видимости, является первой по-настоящему открытой моделью рассуждения в том смысле, что её можно воспроизвести с нуля. Команда опубликовала набор данных, использованных для её обучения, а также необходимый код для обучения.

«Удивительно, Sky-T1-32B-Preview была обучена менее чем за $450, что демонстрирует, что возможно воспроизвести высокоуровневые возможности рассуждения экономично и эффективно»,- написала команда в блоге.

$450 может показаться не таким уж доступным, но не так давно цена обучения модели с сопоставимой производительностью часто колебалась в пределах миллионов долларов.  Синтетические обучающие данные, то есть данные, сгенерированные другими моделями, помогли снизить затраты. Palmyra X 004, модель, недавно выпущенная компанией Writer, которая занимается AI, была обучена почти исключительно на синтетических данных и, как сообщается, её разработка обошлась примерно в $700,000.

В отличие от большинства AI, модели рассуждения эффективно проверяют факты самостоятельно, что помогает им избегать некоторых подводных камней, которые обычно мешают моделям. Модели рассуждения требуют немного больше времени — обычно на несколько секунд или минут дольше — для нахождения решений по сравнению с типичной нерешающей моделью. Преимущество в том, что они, как правило, более надёжны в таких областях, как физика, наука и математика.

Команда NovaSky заявляет, что использовала другую модель рассуждения, QwQ-32B-Preview от Alibaba, для генерации начальных обучающих данных для Sky-T1, затем курировала смесь данных и использовала GPT-4o-mini от OpenAI для преобразования данных в более пригодный формат. Обучение модели Sky-T1 с 32 миллиардами параметров заняло около 19 часов с использованием установки из 8 GPU Nvidia H100.

По словам команды NovaSky, Sky-T1 показывает лучшие результаты, чем ранняя предварительная версия o1 на MATH500, наборе «соревновательных» математических задач. Модель также превосходит предварительную версию o1 на наборе сложных задач из LiveCodeBench, оценки программирования.

Однако Sky-T1 уступает предварительной версии o1 на GPQA-Diamond, который содержит вопросы по физике, биологии и химии, на которые ожидалось бы, что знает аспирант.

Также важно отметить, что GA-версия o1 от OpenAI представляет собой более мощную модель, чем предварительная версия o1, и ожидается, что в ближайшие недели OpenAI выпустит еще более эффективную модель рассуждений o3 .

Однако команда NovaSky утверждает, что Sky-T1 — это только начало их пути по разработке открытых моделей с продвинутыми возможностями рассуждения.

«В дальнейшем мы сосредоточимся на разработке более эффективных моделей, которые сохранят сильные показатели рассуждения, и будем исследовать передовые методы, которые дополнительно повысят эффективность и точность моделей во время тестирования. Следите за нашими достижениями в этих захватывающих инициативах»,-написала команда в сообщении.

Источник