Meta позволява на родителите да виждат темите на разговор между децата им и Meta AI
Meta обяви в четвъртък, че родителите, използващи нейните инструменти за надзор, вече могат да виждат темите, за които техните тийнейджъри са питали Meta AI през последната седмица във Facebook, Messenger или Instagram [1][2].
В центъра за надзор ще бъде добавен нов раздел „Insights“ (Прозрения), който показва обобщени категории от разговорите с ИИ чатбота. Темите могат да варират от „Училище“, „Развлечения“ и „Начин на живот“ до „Пътувания“, „Писане“ и „Здраве и благосъстояние“ [1].

Изображение: Генерирано чрез Svetni.me AI
Родителите могат да избират конкретна тема, за да видят подкатегориите в нея. Например „Начин на живот“ се разделя на мода, храна и празници, докато „Здраве и благосъстояние“ обхваща фитнес, физическо и ментално здраве. Данните покриват само последните седем дни от обмена на съобщения [2]. Актуализацията вече е достъпна в САЩ, Обединеното кралство, Австралия, Канада и Бразилия, а глобалното ѝ разпространение се очаква през следващите седмици [1].
Контекст и правни предизвикателства
Този ход идва в критичен момент за компанията. През януари Meta спря достъпа на тийнейджъри до своите „ИИ персонажи“ (интерактивни асистенти с характери на знаменитости като Снууп Дог и Парис Хилтън), след като загуби дело в Ню Мексико по обвинения в недостатъчна защита на непълнолетни. Това беше първият случай, в който съд призна компанията за юридически отговорна за застрашаване на безопасността на децата [1]. Вътрешни документи от процеса разкриха, че ръководството на Meta е знаело за потенциала на ИИ персонажите за неподходящи и сексуални взаимодействия, но въпреки това ги е пуснало на пазара без достатъчен контрол [2].
Нови партньорства и съвети
Освен инструментите за прозрачност, Meta предприема и следните стъпки:
- Conversation Starters: В партньорство с Cyberbullying Research Center, компанията предоставя на родителите насоки и идеи за започване на открити разговори с децата им относно опита им с ИИ [2].
- AI Wellbeing Expert Council: Създаден е нов съвет от експерти от организации като Националния съвет за превенция на самоубийствата, Мичиганския университет и Североизточния университет (Northeastern University), които да консултират разработването на бъдещи продукти за млади потребители [2].
Критика от защитниците на децата
Въпреки новите функции, Джош Голин, изпълнителен директор на организацията с нестопанска цел Fairplay, разкритикува решението. Според него Meta „отново прехвърля тежестта върху родителите“ да следят онлайн активността на децата си, вместо да изгради безопасен продукт от самото начало [2]. Голин твърди, че новата функция не адресира фундаменталния проблем: според него основната цел на чатботовете на Meta е да манипулират младите хора да прекарват повече време в платформата чрез създаване на нездравословни емоционални връзки с ботовете [2].
Източници:
[1]: Meta will now allow parents to see the topics their child discussed with Meta AI - TechCrunch
[2]: Meta AI parental supervision now includes reviewing kids' AI topics - Mashable