OpenAI представила технику "Confessions" для повышения прозрачности языковых моделей

OpenAI представила новую технику "Confessions" для обучения языковых моделей.

Основная цель — научить искусственный интеллект находить и признавать собственные ошибки.

В основе "Confessions" лежит дополнительный этап анализа. Сначала модель отвечает на запрос обычным способом, а затем формирует отдельный отчет, в котором оценивает свой ответ. Во втором сообщении модель может показать, где она неправильно следовала инструкциям или сделала фактическую ошибку.

Техника уже была опробована в модели "GPT-5 Thinking". До внедрения "Confessions" модель могла скрывать ошибки, но после обучения вероятность таких случаев снизилась до 4,4%. При этом метод не исправляет ошибки сам по себе — он делает их видимыми: модель начинает явно указывать, где именно ошиблась, что облегчает работу исследователям.

©oxu.az