System76 забрани генерирания с AI код в десктоп средата COSMIC на езика Rust
Снимка: The Decoder / System76
Американският хардуерен производител /pages/system76.html обяви категорична забрана за използването на генериран от изкуствен интелект код в ключовите хранилища на операционната система /pages/pop-os.html и графичната среда от ново поколение /pages/cosmic-desktop.html [1]. Решението изпрати силен резонанс в общността на свободния софтуер, превръщайки се в най-радикалната защитна мярка на голям дистрибутор срещу наплива от синтетичен софтуерен шум.
Според новата политика всички предложения за промени (Pull Requests), които съдържат код, изцяло или частично написан от AI асистенти без дълбока авторска проверка, ще бъдат незабавно затваряни, а системните поддръжници няма да губят време за техния анализ.
Когнитивното претоварване на поддръжниците и спецификите на Rust
Основните мотиви на System76 са свързани с изключителната сложност на езика за системно програмиране /pages/rust.html, на който се изгражда средата COSMIC. Макар големите езикови модели да са способни да генерират синтактично верен код на Rust, който преминава базовите проверки на компилатора, техните предложения често съдържат деликатни грешки при управлението на конкурентното изпълнение (concurrency), неоптимално боравене с жизнените цикли (lifetimes) и ненужно клониране на памет.
Поддръжниците на проекти с /pages/open-source.html се оказват залети от десетки сложни комити, изпратени от ентусиасти, които сами не разбират архитектурата на предложения код и не могат да отговорят на техническите въпроси по време на прегледа. В резултат на това няколко опитни инженери прекарват часове в търсене на скрити дефекти в машинно генериран текст, което забавя разработката на целия проект.
Освен това машинният код често страда от архитектурна фрагментация — дублиране на помощни функции, раздуване на зависимостите и пренебрегване на установените модулни конвенции на COSMIC.
Юридически рискове и чистота на лицензите
Вторият фундаментален мотив е защитата на авторските права. System76 се стреми да гарантира абсолютната правна чистота на десктоп средата COSMIC, която се разпространява под отворени лицензи (GPL/MIT).
Тъй като моделите за кодиране са обучавани върху милиарди редове публичен код с разнообразни и често несъвместими лицензи, съществува постоянен риск от неволно инжектиране на патентовани или рестриктивни софтуерни фрагменти в ядрото на дистрибуцията.
Дългосрочни системни и макроикономически последици
Решението на System76 да обяви мораториум върху машинния код в COSMIC осветлява най-голямата илюзия на „AI продуктивността“ в софтуерния инженеринг. Комерсиалните компании за инструменти за кодиране мерят производителността по броя написани редове в минута — показател, който невронните мрежи увеличават стократно. Истинският софтуерен инженеринг обаче не се състои в бързото писане на редове, а в тяхното дългосрочно поддържане, архитектурна кохерентност и сигурност.
Когато цената на генериране на код клони към нула, цената на неговия преглед и верификация нараства експоненциално. Този дисбаланс заплашва да срине доброволческия модел на отворения код: ако няколко опитни поддръжници трябва да валидират милиони редове съмнителен синтетичен код, те просто ще се откажат от проектите си. Ходът на System76 е отрезвяващ сигнал, че истински високопроизводителният системен софтуер изисква дълбоко човешко авторство, дисциплина и лична отговорност за всеки байт от паметта.
Инфографика: Баланс между скорост на генериране, преглед на грешки и лицензионен интегритет.