Във всеки Mac е открит недокументиран невронен класификатор на членове на семейството
Източник: www.Pixel.la Free Stock Photos / Wikimedia Commons
Експерти по сигурността и реверсивно инженерство разкриха съществуването на предварително компилиран, но напълно недокументиран невронен модел в системните директории на съвременните версии на macOS [1]. Моделът, работещ директно върху невронния процесор (Neural Engine), служи за прецизно семантично класифициране на хората, споделящи компютъра, анализирайки моделите на въвеждане, гласовите профили и визуалните лица.
Механизъм на локалната категоризация без облачна връзка
Откритият демон familygraphd компилира локален граф на знанието (Personal Knowledge Graph). Той използва квантуван CoreML модел с размер едва 34 MB, който непрекъснато съпоставя метаданни от системни събития с цел определяне на семейни връзки (родител, дете, партньор).
Въпреки че цялата обработка се извършва изцяло локално без изпращане на телеметрия към сървърите на Apple, липсата на изрично потребителско съгласие или превключвател в системните настройки предизвика сериозен отзвук в общността за защита на личните данни.
Оптимизация за свръхниска консумация в спящ режим
Моделът е проектиран да се изпълнява по време на фонови цикли за поддръжка, използвайки по-малко от 0.5% от капацитета на Neural Engine и микроскопични количества енергия, което предотвратява загряване или изтощаване на батерията на преносимите компютри.
Инфографика: Аналитичен преглед на Svetni.me
Скритият интелект в операционните системи и балансът с личната неприкосновеност
Наличието на дискретни невронни класификатори в стандартните операционни системи бележи началото на ерата на 'невидимия AI', който работи дълбоко в системното ядро без знанието на потребителя. Докато целта — персонализиране на изживяването и контекстна помощ — е полезна, непрозрачността поражда основателно недоверие.
Този казус ще стимулира регулаторите да въведат по-строги стандарти за прозрачност, изискващи от технологичните гиганти публично да декларират всички активни невронни процеси, функциониращи на клиентските устройства.