Технологичните гиганти всъщност определят AI стандартите в ЕС

Големите технологични компании са непропорционално замесени в изготвянето на признати от Европейския съюз стандарти за инструменти за изкуствен интелект (AI). Това сочи доклад на неправителствената организация за проучвания Corporate Europe Observatory (CEO), цитиран от Euronews.

Докладът установява, че повече от половината, или 55% от общо 143 членове, участващи в съвместния технически комитет по AI (JTC21) – създаден от Европейския комитет по стандартизация (CEN) и Европейския комитет за електротехническа стандартизация (CENELEC) – представляват компании или консултанти.

От тях почти 25% са представители на американски компании, включително по четирима представители от Microsoft и IBM, двама от Amazon и поне трима от Google.

За сравнение – участието на гражданското общество е ограничено до само 9% от членовете на JTC21, което според доклада поражда опасения относно приобщаването в процеса на определяне на стандарти.

Законът за изкуствения интелект, първият в света опит за регулиране на AI чрез основан на риска подход, беше одобрен миналия август и разпоредбите постепенно ще започнат да се прилагат.

Европейската комисия поиска от CEN-CELENEC и Европейския институт по телекомуникационни стандарти (ETSI) през май 2023 г. да изготвят основните стандарти за индустрията, които ще се прилагат за продукти, вариращи от медицински устройства до играчки. С тези хармонизирани стандарти една компания може да гарантира, че нейният продукт отговаря на основните изисквания за безопасност, определени в правилата на ЕС.

Решението на Европейската комисия да възложи създаването на публично законодателство относно AI на частен орган е дълбоко проблематично. За пръв път определянето на стандарти се използва, за да се въведат изисквания, свързани с основни права, справедливост, надеждност и пристрастия“, казва Брам Вранкен, изследовател в организацията.

Докладът твърди, че Законът за AI има благоприятен за бизнеса подход, при който сложните и основни въпроси за правата са оставени в ръцете на организациите, определящи стандартите.

Национални органи за определяне на стандарти

Обикновено организациите, определящи стандартни, са склонни да се фокусират повече върху самия процес, отколкото върху конкретен резултат.

Това може да е незадоволително, тъй като обичайно прави прилагането на резултатите по-трудно“, коментира ръководителят на JTC21 Себастиан Халенслебен.

Една AI система може да има маркировка CE, която компаниите получават за придържането към процеси, определени от хармонизираните стандарти, но тя не може да гарантира, че AI системата няма да бъде дискриминационна или с предубеждения, смята Халенслебен.

В допълнение, докладът разгледа и членството на националните органи за определяне на стандарти, работещи върху AI, във Франция, Великобритания и Нидерландия.

В тези страни делът на експертите, представляващи корпоративни интереси, е съответно 56%, 50% и 58%.

В отговор на опасенията, изразени в доклада, от Еврокомисията заявиха, че стандартите, предоставени от CEN-CENELEC, „ще бъдат обект на оценка от Европейската комисия и ще бъдат цитирани в Официалния вестник само ако адекватно отговарят на целите в Закона за изкуствения интелект и отразяват адекватно изискванията за високорискови AI системи“.

Освен това, съществуват редица други предпазни мерки, за да се осигури известен контрол върху процеса, като например възможността държавите-членки и Европейският парламент да възразят срещу хармонизираните стандарти“, добавят в изявлението от ведомството.

По-рано високопоставен служител на холандската служба за защита на личните данни Autoriteit Persoonsgegevens (AP) предупреди, че процесът за създаване на стандарти ще трябва да бъде по-бърз и че времето „изтича“ .

Процесите на стандартизация обикновено отнемат много години. Със сигурност смятаме, че трябва работата трябва да се ускори“, каза той.

Председателят на ETSI Ян Елсбергер каза пред медията, когато встъпи в длъжност през август, че може да отнеме месеци до няколко години, преди стандартите да бъдат приети. „Стандартизацията е доброволно искане от индустрията. Колкото по-голям ангажимент имаме от индустрията, толкова по-бързо върви“, каза Елсбергер.