Искусственный интеллект и ценности: обсуждение тестов на духовно‑нравственные принципы
На августовском совещании по регулированию ИИ компания представила чиновникам концепцию тестовых заданий и эталонов для оценки ИИ по духовно‑нравственным ценностям.
Источник, близкий к Минцифры, сообщил об этом.
Такие испытания призваны оценить соответствие ИИ духу эпохи и государственным ценностям.
Детали проекта пока остаются на стадии концепции.
На совещании ФСБ настаивали на непубличности тестовых данных и запрете на лёгкую настройку моделей.
Предприниматель отметил, что закрытый датасет может оказаться слишком сложным для прохождения и тормозить развитие моделей. Был предложен компромисс: сочетать закрытые и открытые данные с разными формулировками вопросов.
Контекстом стало подписание президентом закона о суверенных и национальных моделях ИИ; такие модели должны соответствовать закону и духовно‑нравственным ценностям.
Эти обсуждения подчеркивают важность регулирования ИИ и влияние на развитие отрасли в стране.
