Изкуственият интелект вече не е футуристична концепция — той е част от ежедневието на бизнеса. От автоматизирано обслужване на клиенти до алгоритми за подбор на персонал, AI системите навлизат във всяка индустрия. Европейският съюз обаче реши, че тази революция се нуждае от ясни правила.

AI Act (Регламент за изкуствения интелект) е първият в света всеобхватен нормативен акт, който регулира изкуствения интелект. Ако вашата компания разработва, внедрява или използва AI решения на европейския пазар, този регламент ви засяга директно. Игнорирането му може да доведе до санкции от десетки милиони евро.

В тази статия ще разгледаме какво точно изисква AI Act, кои практики са забранени и какви са критичните срокове, които не бива да пропускате.

Какво представлява AI Act?

AI Act влезе в сила през август 2024 г. и въвежда рисково-ориентиран подход към регулирането на изкуствения интелект. Вместо да забранява технологията като цяло, регламентът класифицира AI системите според потенциалната им опасност за хората и обществото.

Важно е да разберете, че законът се прилага не само за европейски компании. Ако вашият бизнес е регистриран извън ЕС, но вашите AI решения са достъпни за европейски потребители, вие също попадате под неговия обхват.

Това означава, че българските компании, които използват AI инструменти от американски или азиатски доставчици, трябва да се уверят, че тези инструменти отговарят на европейските изисквания.

Четирите нива на риск

Сърцевината на AI Act е класификацията на системите в четири категории според степента на риск:

1. Недопустим риск (забранени системи)

Някои AI приложения са напълно забранени в ЕС. Това са системи, които представляват неприемлема заплаха за фундаментални права и свободи.

2. Висок риск

Тези системи могат да функционират, но трябва да преминат през строга оценка на съответствието преди пускане на пазара. Примери включват AI за подбор на персонал, кредитен скоринг или медицинска диагностика.

3. Ограничен риск

Системи с определени изисквания за прозрачност. Потребителите трябва да бъдат информирани, че взаимодействат с AI.

4. Минимален риск

Голяма част от AI приложенията — като спам филтри или препоръчителни системи — попадат тук. За тях изискванията са минимални, но все пак е необходимо уведомление за взаимодействие с изкуствен интелект.

Какво е забранено?

AI Act въвежда категорични забрани за определени практики. Ако вашият бизнес използва подобни системи, трябва незабавно да ги премахнете.

Забранени са AI системи, които:

• Манипулират човешкото поведение по начин, който може да причини вреда — например техники за подсъзнателно въздействие
• Експлоатират уязвимости на определени групи хора (деца, хора с увреждания, възрастни)
• Извършват социален скоринг — оценяване на хора въз основа на социално поведение, което води до неблагоприятно третиране
• Осъществяват масово биометрично наблюдение в реално време на публични места (с някои изключения за правоприлагащи органи)
• Категоризират хора по биометрични данни за извеждане на раса, политически възгледи, сексуална ориентация или религиозни убеждения
• Създават бази данни за лицево разпознаване чрез нецеленасочено събиране от интернет или видеонаблюдение

Нарушаването на тези забрани носи най-тежките санкции по регламента.

Изисквания за високорискови AI системи

Ако вашата компания разработва или внедрява високорискови AI системи, трябва да изпълните редица задължения:

1. Оценка на съответствието (Conformity Assessment)

Преди пускане на пазара системата трябва да премине през формална процедура за оценка, която потвърждава съответствието ѝ с изискванията на регламента.

2. Техническа документация

Необходимо е да подготвите изчерпателна документация, която описва как работи системата, какви данни използва и какви са потенциалните рискове.

3. Система за управление на качеството

Вашата организация трябва да внедри вътрешни процеси за контрол на качеството на AI системите.

4. Регистрация в базата данни на ЕС

Високорисковите системи подлежат на задължителна регистрация в единната европейска база данни.

5. Човешки надзор

Системата трябва да бъде проектирана така, че да позволява ефективен човешки контрол върху нейното функциониране.

6. Автоматизирани логове

Изисква се воденето на записи за функционирането на системата, които позволяват проследяване и одит.

За системи с минимален риск изискванията са значително по-леки — достатъчно е добавянето на прозрачно уведомление, че потребителят взаимодейства с AI.

Критични срокове за внедряване

AI Act не влиза в сила изведнъж. Регламентът предвижда поетапно прилагане, което дава време на бизнеса да се подготви.

Важно: Забраните за недопустим риск вече са в сила от февруари 2025 г. Ако все още използвате забранени практики, изложени сте на сериозен правен риск.

Санкции при неспазване

AI Act предвижда значителни финансови санкции за нарушения:

• До 35 милиона евро или 7% от световния годишен оборот (което от двете е по-високо) — за внедряване на забранени AI системи
• До 15 милиона евро или 3% от световния годишен оборот — за нарушение на други задължения по регламента
• До 7,5 милиона евро или 1,5% от оборота — за предоставяне на невярна информация на регулаторните органи

За малки и средни предприятия са предвидени пропорционално по-ниски санкции, но те остават достатъчно високи, за да заслужават сериозно внимание.

Игнорирането на класификацията или неправилното категоризиране на системата се приравнява към нарушение на изискванията за високорискови системи.

Какво трябва да направите сега?

Ако вашият бизнес използва или планира да използва AI, препоръчваме следните стъпки:

1. Направете инвентаризация

Идентифицирайте всички AI системи, които използвате — включително тези от външни доставчици. Много компании не осъзнават, че вече използват AI чрез различни SaaS платформи.

2. Класифицирайте по риск

Определете в коя категория попада всяка система. Това е критична стъпка, която определя какви задължения имате.

3. Проверете за забранени практики

Уверете се, че не използвате AI системи, които попадат в категорията на недопустим риск.

4. Подгответе документация

За високорисковите системи започнете подготовката на необходимата техническа документация и процедури.

5. Потърсете правна консултация

AI Act е сложен регламент с множество нюанси. Професионалната правна помощ може да ви спести значителни проблеми в бъдеще.

Връзката с интелектуалната собственост

AI Act повдига и важни въпроси, свързани с интелектуалната собственост. Компаниите трябва да обмислят как AI системите взаимодействат с авторски права, търговски марки и бази данни. Техническата документация, изисквана от регламента, включва и информация за използваните данни за обучение — област, която често засяга права на трети страни.

Ако имате въпроси относно съответствието на вашия бизнес с AI Act или се нуждаете от правна консултация, екипът на Колев, Ангелов и Митева е на ваше разположение. Като членове на Alliott Global Alliance — водеща международна мрежа с над 230 члена в 105 държави — предоставяме координирана експертиза в множество юрисдикции, когато вашият проект го изисква.