Суперинтелигентност (Superintelligence)

Суперинтелигентността (или изкуственият суперинтелигентен разум - ASI) описва теоретична система с общи интелектуални способности, които далеч превъзхождат тези на най-умните човешки умове във всяка една област. Тя е следващият етап от развитието на изкуствения интелект след постигането на изкуствен общ интелект (AGI).

Изследователски подходи

Водещите технологични лаборатории разглеждат суперинтелигентността като крайна цел, но се различават по отношение на архитектурата и методите за безопасност:

• OpenAI: Фокусира се върху автоматизираното подравняване (alignment) и контролирането на суперинтелигентни системи чрез използване на по-слаби модели за надзор над по-силни.
• Microsoft: Чрез своето подразделение Microsoft AI под ръководството на Мустафа Сюлейман въвежда концепцията за „хуманистична суперинтелигентност“ (Humanist Superintelligence) — системи, които са ориентирани към конкретни практически и социални проблеми на човечеството, без да се развиват като напълно автономни или необвързани с човешкия контрол субекти.

Предизвикателства и безопасност

Основното предизвикателство при суперинтелигентността е т.нар. „проблем на контрола“ (control problem) — как хората биха могли да гарантират, че система с интелект, надхвърлящ техния собствеен, ще остане съвместима с човешкото съществуване и ценности.