Redwood Research

Redwood Research е независима организация с нестопанска цел, посветена на техническата безопасност на изкуствения интелект. Базирана в Бъркли, Калифорния, компанията се фокусира върху приложни изследвания, целящи да предотвратят катастрофални рискове от бъдещи напреднали ИИ системи.

Мисия и цели

Основният фокус на Redwood Research е техническото подравняване (alignment). Организацията разработва практически инструменти и изследователски рамки за контрол на поведението на големи езикови модели. Изследователите в Redwood вярват, че с наближаването на изкуствения общ интелект (AGI), сигурността и контролът върху моделите трябва да се развиват успоредно с техните способности.

Организацията е известна с работата си по техническа сигурност, одит на модели и изследвания на механизмите, по които невронните мрежи могат да прикриват нежелано или злонамерено поведение.