UK AI Safety Institute (AISI)

UK AI Safety Institute (AISI) (Британски институт за безопасност на изкуствения интелект) е първата в света държавна изследователска агенция, създадена специално за оценка на рисковете от гранични модели на изкуствен интелект (frontier models). Основан след срещата на върха в Блечли Парк, институтът разполага с директен предварителен достъп до непубликувани модели на водещи лаборатории като OpenAI, Anthropic, Google DeepMind и Meta.

Основни направления на дейност:

• Одит на кибервъзможности: Тестване на автономната способност на невронни мрежи да откриватゼロ-day уязвимости и да провеждат кибератаки срещу критична инфраструктура.
• Биологична и химическа сигурност: Изследване на рисковете от улесняване на създаването на синтетични патогени и опасни токсини от неспециалисти.
• Оценка на загуба на контрол (Loss of Control): Разработване на симулации за проверка дали автономни агенти могат да скриват истинските си цели, да се самовъзпроизвеждат или да заобикалят наложени софтуерни изолации (sandboxes).