Камуфлаж от очарование: Защо сладкият дизайн на Meta Muse Charm прикрива постоянния AI надзор

Подкаст изданието на Dezeen обсъжда хардуерния чар Muse на Meta и моралната цена на сладкия дизайн. Снимка: Dezeen

Когато технологичните гиганти искат да въведат радикално нова форма на наблюдение в нашето ежедневие, те не я обличат в студен черен метал и стъкло. Те я правят сладка, топла и пухкава. В последното издание на подкаста на престижното архитектурно и дизайнерско списание Dezeen водещите подложиха на унищожителен критичен разбор новия експериментален AI аксесоар Muse Charm, разработен от корпорацията Meta [1].

Аксесоарът, проектиран като миниатюрна висулка за колие или брошка, изглежда като гладко полирано пастелно камъче от речен бряг или сладко бижу. Зад тази обезоръжаваща естетика обаче се крие мощна система за AI наблюдение (ai-surveillance), снабдена с непрекъснато активни микрофони, широкоъгълна камера и директна връзка с облачните невронни мрежи на Марк Зукърбърг [1].

Индустриалният дизайн като психологически троянски кон

Критиците от Dezeen посочват, че съвременният индустриален дизайн (industrial-design) е престанал да бъде просто естетическа опаковка и се е превърнал в инструмент за психологическо разоръжаване [1]. Ако Meta ви предложи да носите на ревера си черна камера с премигваща червена лампа, вие (и хората около вас) веднага ще откажете заради очевидното нарушаване на личното пространство.

Но когато същото устройство е обвито в кадифен софт-тъч силикон, боядисано в цвят праскова или мента и оформено без остри ръбове, човешкият мозък подсъзнателно го категоризира като „невинно“ и „безобидно“ [1]. Никой на масата в ресторанта не се чувства застрашен от сладка детска играчка. По този начин дизайнът действа като троянски кон, заобикалящ социалния имунитет срещу корпоративния надзор.

Капанът на фоновото изчисление (Ambient Computing)

Meta Muse Charm е класически пример за концепцията за фонова компютърна среда (ambient-computing). Целта на компанията е да премахне екрана като бариера и да накара изкуствения интелект да присъства невидимо във всеки момент от живота ви [1].

Докато разговаряте с приятели, пазарувате или прегръщате децата си, малкото „очарователно“ камъче слуша, записва, транскрибира и анализира тона на гласа ви, емоционалните реакции и обектите около вас. Този безкраен поток от мултимодални данни не остава във вашия джоб – той се излива в сървърите на Meta за усъвършенстване на моделите и поведенчески профили, нанасяйки съкрушителен удар върху правото на личен живот (privacy) [1].

Архитектурен анализ и стратегически изводи

Дискусията в Dezeen изважда на преден план фундаментален етичен въпрос, пред който дизайнерите и инженерите не могат повече да затварят очи. Когато естетиката се използва съзнателно, за да скрие експлоатативната същност на технологичния продукт, дизайнът престава да служи на човека и се превръща в инструмент за манипулация.

Обществото трябва да развие критичен рефлекс към „очарователния хардуер“. Невинният външен вид на устройствата не трябва да ни заблуждава за техния истински апетит за данни. Регулаторните органи трябва да въведат строги изисквания за ясна физическа индикация (непреодолими хардуерни светодиоди, затвори за лещи) на всяко носимо устройство с камера и микрофон, независимо колко миловидно изглежда то отвън.

Инфографика: Светни.ме

Източници

[1]: Muse AI charm discussion - Dezeen Weekly podcast - Dezeen