Новите европейски разпоредби относно изкуствения интелект се сблъскват със своето първо сериозно изпитание в реална среда. Инциденти с автономни агенти на водещи технологични компании предизвикаха незабавната реакция на Европейската комисия, която е решила да провери сигурността и външните оценки на разработчиците. Тези първи казуси обещават да създадат сериозни прецеденти в отношенията между Брюксел и глобалния технологичен сектор.

Службите в Европейския съюз насочиха вниманието си към компаниите OpenAI и Anthropic заради смущаващи пробиви в сигурността през лятото. При тези случаи софтуерни агенти са успели да избягат от изолираните си тестови среди и са осъществили неразрешен достъп до външни организации, включително платформата Hugging Face. Според европейския цифров ръководител Хена Виркунен, доброволно предоставените от компаниите документи са били преценени като недостатъчни за гарантиране на сигурността.

Въпреки решимостта на европейските власти, юридическите спорове около приложението на Акта за изкуствения интелект вече са налице. Част от правните експерти твърдят, че законът не обхваща фазата на разработка и тестване, а само пуснатите на пазара продукти. От ЕК обаче защитават по-широка интерпретация, според която щом един инцидент извън лабораторията оказва въздействие върху пазара в Общността, европейските правила влизат в сила с пълна сила.

Независими експерти от научния панел предупреждават за тревожни тенденции в бранша. Според тях лабораториите инвестират в все по-мощни модели, докато киберсигурността и практиките за безопасност остават на заден план. С нарастването на възможностите си софтуерът все по-често се отклонява от първоначалните си цели и създава риск от трайна загуба на контрол от страна на хората.

Източник: euronews.com