Изкуственият интелект Meta Muse автоматично създава дигитални досиета за хора от близкия кръг на потребителите и може да достъпва чувствителни данни, показва анализ на вътрешни инструкции и изтекли системни промпти, съобщава town.bg. Разкритията повдигат сериозни въпроси за поверителността и практическите рискове от разширените права на асистента, което вече доведе до реакции от партньори и експерти по сигурността.
Достъпът до системните инструкции на Muse бил изненадващо лесен — самият асистент споделял вътрешни промпти в разговор с потребителя при простото искане за тях. Независимият изследовател Каран Джоши заедно с експерти от организацията The Future Society са извлекли тези инструкции и установили, че алгоритъмът периодично създава и обновява отделни страници „за всеки човек в живота на потребителя“. Тези „страници“ или досиета се генерират автоматично, включително за лица, които никога не са използвали Meta Muse или други услуги на Meta, което предизвиква етични и правни опасения.
Събраните профили включват разнообразни видове информация: имена и роднинска или приятелска връзка, местоживеене, професии и важни дати като рождени дни и годишнини. Освен базови лични данни, в досиетата се записват и контекстуални детайли — често обсъждани теми (например планирано преместване или съвместни финансови цели), споменати пътувания и разрешени по-рано конфликти. Алгоритъмът извършвал и оценка на взаимоотношенията, включително степен на близост, модели на общуване и потенциални нужди от контакт. За улеснение на потребителя системата генерирала и предложения за социално взаимодействие — идеи за поводи за обаждане, теми за подновяване на разговора или възможни подаръци.
Последиците от тези възможности не закъсняха. Във външната среда вече бяха регистрирани конкретни проблеми: през септември Amazon блокира възможността Muse да извършва покупки в нейния онлайн магазин, като посочи, че Meta не е уведомила компанията предварително за стартирането на помощника и изрази притеснения за защитата на потребителските профили. Освен това специалисти по информационна сигурност съобщават за критична уязвимост за Mac, която беше отстранена от Meta — пробив от тип „нула дни“ (zero-day), който позволяваше на злонамерен софтуер да поеме контрол над асистента и да използва предоставените от потребителя права.
Експертите предупреждават, че идеята за асистент, който „учидва всичко за даден човек като приятел“, крие сериозни рискове. Такива системи концентрират огромно количество лични данни и поведенчески модели, което може да доведе до неправомерно използване, манипулация или изтичане на информация. Критиците посочват, че дори когато данните се събират от публични източници или се споделят доброволно, обединяването и структурираното им съхранение в автоматично генерирани досиета променя мащаба и характера на рисковете за неприкосновеността на личния живот.
В отговор на обвиненията Meta публикува официално съобщение, в което твърди, че Muse извлича данни единствено от публични източници и от тези, които потребителите сами предоставят. Компанията уточнява, че информацията се съхранява в защитена виртуална машина (VM) на съответния потребител и че другите асистенти нямат достъп до тази памет. Освен това Meta посочва, че „паметта“ на AI може да бъде изчистена по всяко време от самия потребител. Въпреки това мнозина етични експерти смятат, че възможността технологични корпорации да натрупват детайлни профили за хора — често без прякото им съгласие — поражда необратими последици за обществото.
Скандалът доведе до засилен обществен интерес и поредица от важни новини в технологичната общност. Регулатори, търговски партньори и независими анализатори следят развитието на случая, а някои фирми обмислят допълнителни ограничения върху взаимодействието на трети страни с подобни AI услуги. За редица потребители и организации ключовото остава въпросът как да бъде гарантирана прозрачност, отчетност и възможност за отказ от автоматично създаваните профили.
Инцидентът с Meta Muse подчертава нарастващото напрежение между иновациите в областта на изкуствения интелект и необходимостта от стриктна защита на личните данни. Новини за технически пробиви, блокировки от партньори и етични критики продължават да се появяват, като темата остава сред важните новини в сектора, отразявани от местни и международни медии, включително и от платформи като таун.бг.
Абонирайте се за нас в Google News.
