Преди няколко дни Microsoft обяви, че Windows 11 е претърпяла актуализация, с цел да се приведе в съответствие с ерата на агентния изкуствен интелект. Тази актуализация ще позволи на агентите с изкуствен интелект да управляват задачи в ОС въз основа на прости потребителски команди. Например, ако потребител иска да поръча пица онлайн, агентът с изкуствен интелект може да отвори уеб браузър, да потърси пицария и да въведе информацията за кредитната карта и адреса на потребителя. Microsoft обаче признава, че тази възможност представлява потенциална уязвимост в сигурността, а днес пусна актуализирано съобщение. „С въвеждането на тези възможности, моделите с изкуствен интелект все още се сблъскват с функционални ограничения по отношение на начина, по който се държат, и понякога могат да халюцинират и да генерират неочаквани резултати“. След инсталиране на Windows 11 Build 26220.7262, в секцията „AI Components“ на Settings > System, ще намерите нов превключвател „Experimental agentic features“. За щастие, това е опционална функция и трябва да се активира ръчно.
След включване на функцията, Windows ще покаже предупреждение, че тези възможности са експериментални и може да засегнат вашето устройство. На практика рискът за сигурността е по-големият проблем. Вече се появяват нови техники за атака, свързани с автономни агенти, като се откроява cross-prompt injection. При тези атаки злонамерените инструкции са скрити в обикновени документи или елементи на интерфейса, така че агентът ги следва, вместо първоначалната си задача. Това може да позволи на агент да инсталира зловреден софтуер, да извади данните за кредитната ви карта и да ги изпрати на трети лица или да извърши други вредни действия.
Microsoft казва, че тези агенти работят в „агентно работно пространство“, където всеки агент получава ограничен, одитиран акаунт и действията му се записват за по-късен преглед. Компанията сравнява това с Windows Sandbox, но агентите са проектирани да се задържат и могат да продължат да действат върху файлове в различни сесии, което разширява възможността за атака. По подразбиране на агент може да бъде предоставен достъп за четене и запис до общи папки като „Downloads“, „Desktop“, „Documents“, „Pictures“, „Music“ и „Videos“. Дори ограниченият набор от действия и отделните акаунти на агентите, не могат напълно да смекчат проблема с отварянето на дупки в сигурността.
Източник: Techpowerup
