Новини
Търси

Meta проверява AI агента Muse след сигнали за достъп до лични съобщения и финансови данни

Meta проверява AI агента Muse след сигнали за достъп до лични съобщения и финансови данни

Софтуерът е изпращал съобщения с непознати финансови данни, напомняния от приложението Signal и информация за чужди поръчки. От Meta твърдят, че част от случаите са резултат от халюцинации на изкуствения интелект.

Новият AI агент Muse на Meta предизвика сериозни опасения за сигурността и защитата на личните данни, след като служители на компанията съобщиха за необичайно поведение на софтуера. Според вътрешни доклади, прегледани от Reuters, системата е показвала информация, която изглежда принадлежи на други потребители, и е изпращала съобщения, несвързани с текущите разговори.

Сред описаните случаи има информация за заявки за гледане на деца, кариерни съвети, поръчки на продукти и банкови салда, които служителите не са предоставяли на своя AI асистент.

В един от най-притеснителните примери служител разговарял с Muse за времето и приливите, когато програмата неочаквано добавила информация за наличности по сметки в американските финансови институции Capital One и Charles Schwab.

В друго съобщение служителка получила напомняне да отговори на съобщение от сестра си в Signal – приложение за комуникация с криптиране от край до край.

Тя заявила, че никога не е давала изрично разрешение на Muse да има достъп до други приложения.

Muse е имала достъп до лични съобщения

Разследването на Reuters установява, че проблемите не се ограничават само до странни или несвързани отговори на изкуствения интелект.

Агенцията е прегледала повече от две дузини вътрешни доклади на служители на Meta и е провела тестове съвместно със специалисти от Signal и института AI Now. При тях е бил възпроизведен достъп на Muse до съобщения от Signal чрез разрешения за известия в Android и системни разрешения за достъпност и екранни снимки в macOS.

Подобни тестове на iPhone не са успели да възпроизведат проблема.

Това повдига въпроси за начина, по който AI агентите получават достъп до информация от други приложения, както и за контрола на потребителите върху тези разрешения.

Meta: Става дума за изолирани случаи

От Meta определят описаните инциденти като изолирани. Говорителят на компанията Даниел Робъртс заявява, че част от съобщенията, които изглеждали като информация от чужди акаунти, всъщност са били халюцинации на изкуствения интелект.

Според представители на екипа, работещ по Muse, някои от грешните съобщения са били свързани с финансови данни, сигурност и лична информация – теми, които правят подобни грешки особено чувствителни.

Компанията подчертава, че тестването от служители е важна част от разработването на продуктите и позволява да бъдат откривани проблеми, преди да се превърнат в по-сериозен риск за потребителите.

Meta обаче не е успяла да даде окончателно обяснение за всички случаи, описани в разследването на Reuters. Агенцията също не е установила дали показаните банкови салда действително принадлежат на други хора, или са били измислени от AI системата.

Над 10 милиона изтегляния за два месеца

Muse беше представен през септември 2026 г. и вече има над 10 милиона изтегляния, което го превръща в един от най-бързо развиващите се продукти на Meta.

AI агентът е част от амбицията на компанията да превърне изкуствения интелект в основен източник на бъдещи приходи.

Случаят обаче поставя важен въпрос пред цялата индустрия: докъде трябва да стига достъпът на AI асистентите до личната информация, за да бъдат полезни, без да застрашават поверителността на потребителите?

Проблемите с Muse показват, че с разширяването на възможностите на изкуствения интелект нараства и необходимостта от по-строг контрол върху достъпа до лични съобщения, финансови данни и други чувствителни сведения.

Водещи