Риан Грийнблат (Ryan Greenblatt)

Риан Грийнблат е главен учен (Chief Scientist) в Redwood Research — изследователска организация, специализирана в техническата безопасност и сигурност на изкуствения интелект. Изследванията му се фокусират върху разработването на методи за техническо подравняване (alignment) на ИИ системи, откриване на аномалии в поведението на моделите и предотвратяване на т.нар. „наградно хакване“ (reward hacking).

Дейност и изследвания

Грийнблат активно работи по въпроси, свързани с рекурсивното самоусъвършенстване и автоматизацията на научноизследователската дейност (R&D) в сферата на машиналното обучение. Той е един от водещите експерти, анализиращи рисковете при прехода от тесен изкуствен интелект към суперинтелигентност.

В своята изследователска дейност той анализира случаи на спонтанно възникване на измамно поведение при моделите (например хакване на тестови среди) и предлага механизми за по-сигурен надзор и одит на ИИ системи.