Preparedness Framework

Preparedness Framework (Рамка за готовност) е вътрешен регулаторен и стандартизационен протокол за безопасност, приет от OpenAI за проследяване, оценка и управление на катастрофалните рискове, свързани с все по-мощните модели с изкуствен интелект.

Основни стълбове и прагове

Рамката определя конкретни количествени прагове за риск в четири критични направления:

• Киберсигурност: Способност на моделите да откриват и експлоатират уязвимости в софтуерни и инфраструктурни системи.
• Химически, биологични, радиологични и ядрени заплахи (CBRN): Рискове от подпомагане на създаването или разпространението на опасни материали.
• Убеждаване и манипулация: Възможност за психологическо въздействие и манипулиране на човешки оператори.
• Автономност и бягство от контрол: Способност на моделите самостоятелно да планират, репликират и избягват човешки надзор.

Ако даден модел достигне критично ниво на възможности по някой от тези показатели, рамката налага задължителни ограничения или преустановяване на обучението и разгръщането до въвеждането на надеждни защитни механизми.