Эксперименты · три демоOpenAI Decisions API · gpt-6-luna
Decisions API от OpenAI: текст, картинки и шахматы
Обычная языковая модель пишет текст. Модель решений текст не пишет: вы задаёте вопрос и варианты ответа, а она выбирает и говорит, насколько уверена. Ниже три эксперимента: разбор обращений в поддержку, проверка фото в объявлениях и партия в шахматы. Первые два показывают, где такая модель сильна, третий показывает, где она упирается в предел.
Что такое Decisions API
Это API OpenAI, которое отвечает не абзацем, а решением. OpenAI показала его на DevDay 29 сентября (об этом был выпуск AI-дайджеста), а 6 октября открыла публичную бету для всех разработчиков. Внутри одна модель, gpt-6-luna. На вход можно дать текст и картинки.
Вы описываете вопросы, а модель отвечает на каждый в одном из трёх форматов:
Предикат. Вероятность, что утверждение верно. «Клиент раздражён?» → 0,91.
Выбор. Один вариант из вашего списка, вероятность для каждого варианта и общая уверенность. «В какой отдел?» → «Доставка», 87%.
Оценка. Место на шкале уровней, которые вы задали по порядку. «Насколько срочно, от 0 до 3?» → 2,4. Ответ дробный, потому что это среднее по уровням с учётом вероятностей: модель колеблется между «высокой» и «критичной».
Несколько независимых вопросов уходят одним запросом и получают ответы разом. Платите только за входные токены, $0,10 за миллион, ответ бесплатный. По заявлению OpenAI, это до 10 раз быстрее, чем та же модель через обычный Responses API. Время каждого ответа вы увидите в демо.
Jev. Идея не новая. В середине сентября стартап TypeSafe выпустил модель Jev (через несколько недель он привлёк $870 млн), которая так же выбирает ответ и честно возвращает вероятности, но только по тексту. Многие на Hacker News восприняли Decisions API как ответ OpenAI на Jev. Первое демо ниже могло бы работать и на Jev, второе и третье нет: там модель смотрит на картинку.
Ваш ключ OpenAI для всех трёх демо
Нужен свой ключ OpenAI API. Он хранится только в этом браузере, запросы идут напрямую в OpenAI, сервера у страницы нет. Один запрос стоит сотые доли цента. Адрес можно заменить на свой прокси, совместимый с OpenAI, например LiteLLM.
Пример 1. Разбор обращений в поддержку
Интернет-магазин обуви получает сотни писем в день. Каждое нужно отправить в нужный отдел и понять, горит ли оно. Выберите письмо или напишите своё: модель ответит сразу на четыре вопроса.
Выбор. В какой отдел: доставка, оплата, возврат и обмен, приложение, другое.
Предикат. Клиент раздражён.
Предикат. Нужен ответ человека в течение часа.
Оценка. Срочность по шкале из четырёх уровней.
Нажмите «Разобрать письмо».
–ответ, мс
–входных токенов
4вопроса в запросе
Здесь появятся ответы модели.
Как выглядит запрос и ответ
Появится после запроса.
Что здесь происходит. Вместо списка ключевых слов правила написаны обычным языком: «нужен ответ человека в течение часа, если клиент теряет деньги или вот-вот уйдёт». Один запрос отвечает на четыре вопроса. Модель не пишет ответ клиенту, она только решает. Дальше работает обычный код с порогом: если уверенность в отделе выше 80%, письмо уходит туда само, если ниже, его смотрит человек. Порог вы выбираете под цену ошибки.
Пример 2. Проверка фото в объявлениях
Площадка объявлений хочет до публикации понять, то ли на фото, что в заголовке, нет ли на нём телефона (продавцы так уводят покупателей с площадки) и не придётся ли просить переснять. Выберите фото или загрузите своё, заголовок объявления можно поменять.
Фото не выбрано.
Предикат. На фото товар из заголовка.
Предикат. На фото видны телефон, ссылка или другой контакт.
Выбор. Категория товара.
Оценка. Качество фото по шкале из четырёх уровней.
Выберите фото.
–ответ, мс
–входных токенов
4вопроса в запросе
Здесь появятся ответы модели.
Как выглядит запрос и ответ
Появится после запроса.
Что здесь происходит. Страница уменьшает фото до 1024 пикселей и вкладывает его прямо в запрос как строку base64, ссылки на картинки API не принимает. Рядом с фото идёт заголовок объявления текстом, и модель сравнивает одно с другим. Форматы ответов те же три. Итог «опубликовать, переснять или проверить вручную» снова решает код по порогам, а не модель. Так же устроены модерация, сортировка каталога и предварительный отсев перед модератором-человеком.
Пример 3. Шахматы: формат подходит, задача нет
Ход в шахматах выглядит как идеальный вопрос для модели решений: есть картинка и короткий список допустимых вариантов. Вы играете белыми, модель отвечает чёрными. Попробуйте её обыграть.
Вы играете белыми. Ваш ход.
–ответ модели, мс
–уверенность
0ходов модели
Что выбирала модель
Появится после первого хода чёрных.
Ходы
—
Правила, доску и проверку ходов ведёт обычная библиотека chess.js. Модель нужна только для одного: решить, каким ходом ответить.
Картинка. После вашего хода страница рисует доску в PNG: белые внизу, буквы и цифры по краям, последний ход подсвечен жёлтым. Записи позиции (FEN или списка ходов) модель не получает.
Варианты. chess.js составляет список всех легальных ходов чёрных, обычно 20–40 штук. Каждый подписан нейтрально, например «from g8 to f6», без пометок «взятие» или «шах».
Один вопрос. Картинка и список уходят как вопрос типа «выбор»: какой ход даёт чёрным лучшие шансы. В инструкции сказано сначала закрыть угрозу мата, потом не оставлять фигуры без защиты, потом брать материал и развиваться.
Ответ. Выбранный ход, вероятность для каждого варианта и уверенность. Три самых вероятных хода видны на доске стрелками.
Нелегально модель сходить не может: она отвечает только из списка. Если ход единственный, страница делает его сама, потому что API требует хотя бы два варианта.
Почему она проигрывает. Модель решений смотрит на позицию один раз и выбирает ход, который выглядит лучшим. Она не перебирает варианты вперёд, как шахматный движок, поэтому угрозу, которую видно только на ход дальше, легко пропускает: в первой же тестовой партии ей поставили детский мат. Это и есть граница таких моделей. Они хороши, когда ответ узнаётся с одного взгляда, как отдел для письма или телефон на фото, и слабы, когда ответ нужно вычислить.
Как читать вероятности и где подвох
Вероятность и уверенность не одно и то же. Вероятности говорят, как модель распределила ответ по вариантам. Уверенность в выборе и оценке API возвращает отдельным числом, и пороги лучше подбирать на своих размеченных примерах, а не брать на глаз.
Порядок вариантов влияет. Разработчики заметили, что если переставить варианты в списке, вероятности немного сдвигаются.
Выбор преувеличивает лидера. В тесте с монетой, которая падает орлом в 70% случаев, в формате «выбор» модель ставила на орла 98%, а в формате «предикат» давала честные 70%. Если вам нужна именно вероятность, спрашивайте предикатом.
Формат не равен правоте. Ответ всегда придёт в нужном виде, но это не значит, что он верный. Шахматы это хорошо показывают.
Где это особенно полезно
Decisions API хорош там, где ответ можно заранее перечислить, решений нужно много и быстро, а ошибка в одном из них не катастрофа. Вот задачи, где он подходит лучше, чем обычная языковая модель:
Модерация и проверка картинок
Соответствует ли фото правилам площадки, есть ли на скриншоте персональные данные, это чек или нет. Ответ приходит с вероятностью, поэтому сомнительное можно отправить человеку.
Маршрутизация запросов
В какой отдел отправить обращение, какой модели отдать вопрос (дешёвой, дорогой или с поиском), на каком языке ответить.
Следующий шаг агента
OpenAI показывала агента, который управляет компьютером: на каждом шаге он смотрит на экран и выбирает действие из короткого списка. Это то же самое, что ход в шахматах.
Страж для агента
Перед тем как агент выполнит действие, отдельный быстрый вопрос проверяет, относится ли оно к задаче и нет ли на прочитанной странице промпт-инъекции.
Оценка по рубрике
Насколько ответ поддержки вежлив, полон ли пересказ, проходит ли текст редакционные правила. Удобно и для проверки ответов другой модели.
Реальное время
Игры, роботы, интерфейсы, где решение нужно за доли секунды: куда повернуть, какую подсказку показать, когда вмешаться.
Где он не подходит: когда нужен развёрнутый текст, когда варианты нельзя перечислить заранее и когда правильный ответ требует долгого рассуждения. Шахматы показывают как раз последнее: формат идеальный, а сила игры упирается в отсутствие расчёта.