Разобличителят на Theranos Тайлър Шулц предупреждава: AI бумът е златна възможност за мащабни измами
Източник: TechCrunch / Getty Images
Тайлър Шулц, ключовият вътрешен разобличител, чиито свидетелски показания доведоха до краха на биотехнологичния стартъп Theranos и вкарването в затвора на основателката му Елизабет Холмс, отправи остро предупреждение към глобалната технологична екосистема [1]. Говорейки на технологичната конференция TechCrunch Disrupt, Шулц заяви, че настоящият бум на изкуствения интелект създава „перфектната среда за манипулации и дезинформация“, повтаряйки същите порочни модели на фалшиви технологични демонстрации и сляпо доверие от страна на венчърния капитал.
Паралели между биотехнологичната измама и съвременните AI бенчмаркове
Шулц направи директно сравнение между манипулираните кръвни тестове на Theranos и начина, по който днешните AI компании представят своите възможности. Тъй като големите езикови модели са по същество непрозрачни черни кутии, стартъпите лесно могат да подправят резултатите от тестовете, да включват тестовите въпроси в обучителните данни (data contamination) или тайно да използват човешки оператори зад кулисите, за да симулират безупречно автономно поведение по време на презентации пред инвеститори.
Културата на страх и липсата на независим външен одит
Особено тревожен според Шулц е психологическият натиск в компаниите от Силициевата долина. Инженерите и изследователите по безопасност на изкуствения интелект, които изразяват съмнения относно реалните възможности на моделите или разкриват критични дефекти, често биват заглушавани с драконовски споразумения за конфиденциалност (NDA) и заплахи за съдебно преследване, точно както се случи в лабораториите на Theranos преди десетилетие.
Спешната нужда от научен одит и институционална защита на разобличителите
Предупреждението на Тайлър Шулц идва в критичен момент, когато в AI екосистемата се изливат трилиони долари държавни и частни капитали. Етиката не може да разчита единствено на добросъвестността на основателите, чието богатство зависи от поддържането на илюзията за предстоящ пробив към общ изкуствен интелект (AGI). Технологичният сектор се нуждае от спешно въвеждане на задължителни стандарти за възпроизводимост на резултатите от независими академични лаборатории, отворени протоколи за тестване и категорична законова защита за вътрешните лица, които сигнализират за измами. Ако регулаторите и инвеститорите продължат да си затварят очите пред очевидните разминавания между реклама и реалност, следващият спукан балон ще нанесе далеч по-тежки щети на световната икономика от случая Theranos.
Основните предупредителни знаци: непрозрачност, замърсени тестове, харизма вместо наука и натиск срещу одити.