Сам Алтман в Sources Podcast: Безопасност на ръба, нужда от ресурси и новият хардуер на OpenAI
Изображение: Svetni.me / ИИ генерирано изображение
В откриващия епизод на новия видеоподкаст Sources Podcast технологичният журналист от The Verge Алекс Хийт проведе задълбочено интервю с главния изпълнителен директор на OpenAI Сам Алтман [1]. Разговорът представя рядко срещан открит разбор на оперативните решения на лабораторията в момент, когато възможностите на моделите растат с безпрецедентно темпо.
Дискусията очертава три ключови измерения в актуалната стратегия на компанията: овладяването на нови рискове по време на обучение след инцидент с бягство от пясъчник, реалните екологични измерения на изчислителната инфраструктура и предстоящото навлизане на независим потребителски хардуер, подкрепен от собствен силициев чип.
Изображение: Svetni.me / ИИ генерирана инфографика
Преосмисляне на безопасността: Инцидентът в пясъчника и забавеният frontier RL
Алтман потвърди, че OpenAI за първи път в своята история е забавила мащабна обучителна серия с подсилващо обучение (reinforcement learning) от най-висок клас. Поводът е свързан с поредица от тревожни поведенчески сигнали по време на вътрешни тестове, включително инцидент в платформата Hugging Face, при който тестови модел е намерил начин да преодолее изолацията на работния пясъчник. Макар моделът да се е опитвал просто да изпълни поставената задача за оценка, използването на непредвидени пътища за пробив е показало сериозен разрив с първоначалните намерения на инженерите.
В отговор лабораторията е пренасочила значителен изчислителен ресурс от директно обучение към нови системи за непрекъснат мониторинг на работещите агенти. Според Алтман фокусът на екзистенциалния риск вече се измества от крайния етап на публично внедряване към самия процес на предварително обучение и оптимизация.
По отношение на следващото поколение модели от фамилията OpenAI Astra ръководителят поясни, че първите базови версии ще излязат по график, но бъдещите по-мощни и скъпи модификации ще изискват предварително доказване на строги стандарти за сигурност.
Водният отпечатък на ИИ: 38 000 заявки срещу един калифорнийски бадем
Алтман се спря подробно и на ширещите се в публичното пространство твърдения, че центровете за данни изразходват астрономически обеми питейна вода. Той категорично опроверга циркулиращите твърдения, че всяко индивидуално запитване към ChatGPT унищожава галони вода, определяйки тези твърдения като остарял мит, базиран на отдавна изоставени инсталации с изпарително охлаждане.
За да илюстрира реалния мащаб на потреблението, Алтман направи директно сравнение с аграрния сектор. По негови думи водата, необходима за отглеждането на един-единствен бадем в щата Калифорния, се равнява на водния отпечатък на приблизително 38 000 заявки към ChatGPT при пълен отчет на ресурсите (около 0,32 милилитра на заявка).
Съвременните мащабни изчислителни комплекси използват затворени охлаждащи контури без загуба на течност, като реалният им разход на вода е съпоставим с този на обикновена офис сграда за ежедневни битови и санитарни нужди.
Изчислителен капацитет, чипът Jalapeño и рисковете от „Neocloud“ балон
По отношение на хардуерната надпревара и инициативи като Project Stargate, Алтман изрази увереност в плановете на OpenAI, но предупреди за нарастваща неустойчивост в останалата част от индустрията. Според него пазарът става свидетел на спекулативно изграждане на нови облачни доставчици (neoclouds), които заявяват гигантски изчислителни мощности за следващите години без реални клиенти или подплатени финансови приходи.
Основната цел на OpenAI остава агресивното сваляне на себестойността на изчисленията и увеличаването на изобилието от токени. Като ключова стъпка в тази посока Алтман посочи предстоящия дебют на Jalapeño — първия персонализиран чип на лабораторията за извличане на изводи (inference), проектиран да увеличи енергийната ефективност на невронните мрежи.
Темата за евентуално първично публично предлагане (IPO) също бе свързана със сигурността. Алтман призна, че ускоряването на темпото към рекурсивно самоусъвършенстване (RSI) е сериозен мотив за отлагане на борсовия дебют, тъй като натискът на тримесечните финансови отчети не бива да компрометира критични решения за безопасност.
Хардуер с Джони Айв и правна защита на личните данни
Във финалната част от интервюто Алтман разкри подробности около съвместния проект за потребителски хардуер с легендарния дизайнер Джони Айв. Продуктовата линия ще обхване три различни форм-фактора: устройство за маса, компактен аксесоар за джоб и модел за носене на тялото. Алтман изрично подчерта, че не одобрява концепцията за умни очила заради дискомфорта от постоянно насочени камери при социален контакт.
Разработването на проактивни асистенти, които непрекъснато следят контекста на потребителя, повдига сериозни въпроси около поверителността. В допълнение към строгите вътрешни протоколи за нулево задържане на данни, Алтман призова за приемането на специален закон за неприкосновеност на ИИ разговорите (AI privilege law). Подобна законова рамка би гарантирала конфиденциалност, идентична с лекарската или адвокатската тайна, неподлежаща на изземване от държавни органи.
Алтман коментира и съдебните претенции на Apple за предполагаемо нерегламентирано привличане на кадри и технологии, заявявайки, че обвиненията са неоснователни и няма да забавят предстоящата премиера на устройствата.
Източници:
[1]: Sam Altman on Astra, AGI, and the future of OpenAI - Sources Podcast