Когнитивна наука (Cognitive Science)

Когнитивната наука (Cognitive Science) е интердисциплинарно научно поле, изследващо природата на ума, процесите на възприятие, разсъждение, памет и вземане на решения както при биологичните организми, така и при изкуствените невронни мрежи.

Взаимодействие с изкуствения интелект

1. Система 1 и Система 2 разсъждения: Моделиране на бързите интуитивни асоциации спрямо бавното, структурирано и поетапно аналитично планиране в съвременните модели с изкуствен интелект.
2. Когнитивна асимилация и сикофанство: Изследване на психологическите механизми, чрез които човешките експерти несъзнателно приемат мнения и пристрастия, генерирани от софтуерни асистенти, като свои собствени убеждения.
3. Метакогниция при агенти: Изграждане на механизми за самооценка, калибрация на увереността и откриване на собствени грешки в автономните невронни системи.
4. Теория на ума (Theory of Mind): Анализ на способността на моделите да предсказват намеренията и менталните състояния на хората при взаимодействие в реално време.

Приложение

Когнитивните изследвания са фундаментални за дизайна на безопасни интерактивни интерфейси и създаването на надеждни алгоритми за съгласуване на изкуствения интелект с човешките ценности.