OpenAI 29 октября обновила Model Spec — публичное описание того, как компания хочет, чтобы её модели вели себя. Новая версия организует правила вокруг пяти ценностей и добавляет более явные ориентиры для работы с контекстом, человеческим контролем и самостоятельными действиями ИИ.
В основе документа теперь пять принципов:
- верность намерениям человека;
- минимизация вреда;
- честность и прозрачность;
- поддержка человеческой самостоятельности;
- забота об обстоятельствах людей, которых затрагивает работа модели.
OpenAI уточнила порядок приоритета инструкций и добавила раздел о внимательной работе с контекстом. Разговоры, сохранённые сведения и другие данные должны помогать модели понимать предпочтения пользователя, но предположения необходимо делать заметными и доступными для исправления.
В спецификации также появились установки о поддержке человеческого контроля, социальных нормах и последствиях действий. При этом компания убрала большую часть детальных правил стиля: подачу предполагается чаще адаптировать к языку, культуре, запросу и обратной связи пользователя. Сильные настройки по умолчанию, включая объективный подход, сохранены.
В тексте модели теперь называются GPT, а не «ассистентом». Для разработчиков документ остаётся ориентиром поведения внутри установленных OpenAI границ; пользователи могут менять многие настройки по умолчанию своими инструкциями, если они не выходят за эти границы.
Обновление не означает, что все действующие модели уже полностью работают по новой версии. OpenAI прямо называет Model Spec описанием целевого поведения и сообщает, что продолжает исследовать методы обучения этим принципам; результаты этой работы обещано раскрыть позднее.
Пока никто не ответил. Начните обсуждение.