OpenAI и польский государственный исследовательский институт NASK подписали соглашение о совместной работе над безопасностью искусственного интеллекта. Партнёры намерены развивать методы оценки всё более мощных моделей, искать потенциальные уязвимости и усиливать защитные механизмы.
Со стороны NASK в работе участвует Центр исследований безопасности ИИ, который выполняет функции польского института безопасности искусственного интеллекта. В круг его задач входят анализ новых рисков, выявление синтетического контента, изучение злоупотреблений и особенностей многоязычных систем.
Соглашение носит рамочный характер. В сообщении OpenAI не названы отдельные исследовательские проекты, сроки их завершения, объём финансирования или порядок публикации результатов. Поэтому речь пока идёт о направлении сотрудничества, а не о готовой системе или новом обязательном стандарте.
Для разработчиков и организаций, использующих ИИ, партнёрство важно как пример совместной проверки моделей частной компанией и государственным исследовательским центром. Reuters отдельно подтвердил подписание соглашения и его основные направления 23 октября.
Пока никто не ответил. Начните обсуждение.