Срещу светския апокалипсис: Защо DHH отхвърля истерията около екзистенциалната заплаха от AGI

Дейвид Хайнемайер Хансон анализира мотивите зад модерния технологичен песимизъм. Снимка: DHH Blog / 37signals

В съвременната технологична култура страховете от края на света вече не идват от религиозни секти, а от лъскавите конферентни зали на Сан Франциско. В ново остро полемично есе Дейвид Хайнемайер Хансон (DHH), създателят на Ruby on Rails и съосновател на 37signals, подлага на унищожителна дисекция движението на AI дуумизма (ai-doomerism), задавайки директния въпрос: „За какво, по дяволите, всъщност се тюхкате?“ [1].

Хансон диагностицира масовата паника около предполагаемото физическо унищожение на човечеството от бъдещ общ изкуствен интелект (AGI) като класическа форма на светска есхатология. В общества, които до голяма степен са загърбили традиционната религия, психологическата потребност от мит за Страшния съд намира ново убежище в технологичните фантазии. Ролята на всемогъщия и гневен Бог се заема от митичен свръхинтелект, а жреците, проповядващи покаяние и държавен контрол, са водещите фигури от Силициевата долина (Silicon Valley) [1].

Отвличане на вниманието и регулаторен картел

Основната опасност от дуумизма, според Хансон, не е просто интелектуалната му абсурдност, а начинът, по който се използва за регулаторен контрол. Водещите лаборатории, които наляха десетки милиарди долари в невронни мрежи, систематично раздухват призрака на апокалипсиса пред политиците във Вашингтон и Брюксел [1].

Посланието им към правителствата е прозрачно: „Тази технология е толкова смъртоносна, колкото ядреното оръжие. Не позволявайте на никого извън шепа лицензирани гиганти да тренира модели.“ Чрез тази тактика екзистенциалният страх се превръща в най-ефективния инструмент за унищожаване на конкуренцията, забрана на моделите с отворен код и циментиране на монопол върху дигиталното бъдеще [1].

В реалността обаче езиковите модели са просто сложни статистически корелатори на думи, ограничени от капацитета на трансформаторната архитектура, консумацията на електричество и законите на термодинамиката. Те нямат вътрешна воля, стремеж към власт или способност да излязат от сървърните шкафове, за да подчинят биологичния свят.

Техно-оптимизъм срещу параноята

Хансон противопоставя на тази колективна истерия философията на трезвия техно-оптимизъм (techno-optimism). През цялата история всяко фундаментално изобретение – от парната машина и електричеството до пеницилина и персоналния компютър – е било посрещано с пророчества за гибел. И всеки път човечеството е успявало да овладее новия инструмент, подобрявайки стандарта си на живот [1].

Днешните модели вече революционизират програмирането, ускоряват откриването на нови лекарства, автоматизират тромавата бюрокрация и дават на отделния човек възможности, достъпни преди само за огромни корпорации. Да спрем този напредък заради спекулативни сценарии от евтина научна фантастика би било историческо безумие.

Архитектурен анализ и стратегически изводи

Позицията на DHH маркира настъпването на дългоочакван интелектуален обрат сред технологичната общност. След години на доминиране от страна на движения като Effective Altruism и професионалните институти по x-risk, инженерите от реалната икономика започват открито да се противопоставят на катастрофичния наратив.

Въпросът за безопасността на софтуера остава важен, но той трябва да се решава чрез стандартни инженерни практики: одит на сигурността, тестване на гранични случаи, криптографска верификация и защита на личните данни. Когато спрем да третираме изкуствения интелект като божество и започнем да го третираме като чук, параноята ще отстъпи място на истинската съзидателна работа.

Инфографика: Светни.ме

Източници

[1]: What on earth are you dooming about? - DHH / world.hey.com