Од чет-ботова који пишу мејлове и сумирају састанке, до система који помажу у доношењу сложених одлука, АИ све више постаје део начина на који радимо и живимо. Управо зато Србија припрема први закон који ће системски уредити ову област.

У новој епизоди НАLED-овог подкаста „Реформске приче“ о предлогу закона разговарају Марија Гњатовић, државна секретарка у Министарству науке, технолошког развоја и иновација, и Иван Кадић, оснивач стартапа Reputeo. Главна тема разговора је како направити баланс између заштите грађана и подстицања иновација, посебно имајући у виду да се технологија развија много брже него што се мења регулатива.

Марија Гњатовић објашњава да је закон потребан пре свега зато што је вештачка интелигенција већ присутна у готово свим секторима. Циљ је да грађани могу да користе АИ системе на безбедан и сигуран начин, али и да компаније које развијају таква решења добију јасна правила игре. За домаће фирме је, како је истакнуто, посебно важно да та правила буду усклађена са међународним стандардима, јер се АИ решења не развијају само за домаће тржиште.

Један од основних принципа будућег закона биће приступ заснован на процени ризика, односно „risk-based approach“. Закон не треба да регулише саму технологију, која се непрестано мења, већ ризик који може настати њеном применом. То значи да исти систем може бити различито регулисан у зависности од тога за шта се користи. АИ који препоручује филмове носи минималан ризик, док систем који помаже у доношењу медицинских одлука може бити систем високог ризика.

Управо је класификација ризика једна од кључних разлика између различитих АИ система. За системе високог ризика предвиђа се већи ниво контроле, више доказа о њиховој тачности и валидацији, као и упис у регистар. Посебно важан принцип биће „human in the loop“, односно задржавање човека у процесу доношења одлука. Вештачка интелигенција може бити асистент, али код система који могу значајно да утичу на безбедност, здравље или права људи коначна одлука мора остати на човеку.

За компаније које развијају АИ решења питање регулације је, међутим, сложеније. Иван Кадић упозорава да је вештачка интелигенција много више од још једног технолошког таласа и да је треба посматрати као нову индустријску револуцију. Проблем је у томе што је тешко направити регулативу за технологију чији ће се модели и начини примене у наредним годинама значајно променити.

Као пример наводи развој нових великих језичких модела који више не морају нужно да уче само на огромним количинама постојећих података, већ могу да уче из сопственог искуства и интеракције са окружењем. Због тога, према његовом мишљењу, закон мора да остане довољно флексибилан како правила која су направљена за данашње моделе не би ограничила развој технологија које ће се појавити сутра.

Посебно важно питање за домаћу АИ индустрију јесте како обезбедити да регулација не повећа непотребно трошкове развоја. Марија Гњатовић указује да ће закон неминовно утицати и на процес развоја, чак и када истраживање и развој формално нису у његовом директном фокусу. Ако се од почетка захтева коришћење одређених врста и квалитета података, то може учинити развој скупљим. Са друге стране, рано познавање правила омогућава компанијама да производе од самог почетка развијају тако да касније могу лакше да прођу неопходне процедуре.

У том контексту посебно место имају регулаторни „сандбоксови“, односно контролисана окружења у којима би компаније могле да тестирају, валидирају и први пут примене АИ решења у реалним условима. За стартапе је то посебно значајно јер им омогућава да тестирају производ пре него што уђу у пуну процедуру сертификације и тржишне примене.

Кадић посебно наглашава значај малих стартапа и продукционих компанија које развијају сопствене производе и интелектуалну својину. Србији су, како истиче, потребне компаније које не раде само аутсорсинг, већ развијају сопствене производе који могу да се пласирају на глобално тржиште. Због тога би најмање и најмлађе компаније требало да имају довољно простора за истраживање и тестирање, јер би превисоки трошкови регулаторне усклађености могли да буду препрека њиховом развоју.

Важан део будућег система биће и однос према европском АИ акту. Србија, како је објашњено, неће једноставно преписати европску регулативу, али ће се ослањати на њене основне принципе. Циљ је да се обезбеди заштита грађана и истовремено омогући домаћим компанијама да своја решења развијају тако да могу да буду конкурентна и на европском тржишту.

За домаћу индустрију то је важно и због будуће сертификације. Компанијама је потребан оквир у којем ће моћи да развијају системе у Србији, а затим их, уз испуњавање прописаних стандарда, пласирају у Европској унији и другим деловима света. Поред европског тржишта, АИ компаније се такмиче и на тржиштима САД, Велике Британије, Аустралије, Кине и Јапана, која имају различите регулаторне приступе.

Једна од тема која се све више намеће јесте и суверена вештачка интелигенција. Кадић објашњава да развој локалних модела може бити важан за компаније и државне институције које не смеју или не желе да поверљиве податке шаљу у спољне АИ системе. Реч је о моделима који могу да раде на локалној инфраструктури, у домаћим дата центрима или у затвореним системима компанија.

Reputeo је, како је наведено у разговору, развио један такав модел и пласирао га на глобално тржиште. За велике компаније то може бити важно јер њихове интерне процедуре често не дозвољавају да се поверљиви уговори, пословне информације и друга осетљива документа уносе у јавне велике језичке моделе. Локални АИ модел омогућава да обрада остане унутар контролисане инфраструктуре.

Зато суверена АИ није само технолошко питање већ, како је оцењено у разговору, и питање економске и националне независности. Што више критичних система зависи од неколико глобалних модела и компанија, то је већа зависност од њихових пословних одлука, цена, правила и начина рада.

Истовремено, велики изазов представљају подаци. Корисници свакодневно у АИ системе уносе све више информација, често без довољне свести о томе где ти подаци завршавају и на који начин могу бити коришћени. Посебно је важно да компаније и државне институције едукују запослене да не уносе поверљиве документе и осетљиве информације у јавне АИ системе без одговарајуће контроле.

Заштита грађана такође ће бити један од основних циљева закона. Лична употреба АИ система неће бити предмет регулације на исти начин као професионална и пословна употреба, али би грађани требало да добију више информација о томе када комуницирају са АИ системом или када је АИ коришћена у одређеној услузи. Као пример наведена је ситуација у којој АИ водитељ на телевизији може да буде представљен тако да гледаоци нису свесни да не гледају стварну особу.

Транспарентност ће бити важна и у другим областима. Ако лекар користи АИ асистента приликом припреме налаза, грађанин би требало да буде информисан о томе. Циљ није да се спречи употреба технологије, већ да корисник зна шта стоји иза одређене услуге или одлуке.

Због тога закон мора да прати и шири систем едукације грађана. Ниједна регулатива не може сама да реши проблем ако корисници не знају како АИ функционише, које податке користи и који ризици постоје. Посебно је важно разумети да АИ може да пружи корисну препоруку, али да та препорука није нужно тачна и да коначну одлуку треба доносити на основу проверених информација.

Посебна пажња посвећена је критичној инфраструктури, где су последице грешке далеко веће. Болнице, енергетски системи, телекомуникације и други системи од којих зависи функционисање друштва не могу се ослонити на АИ без додатних контрола. Осим грешака самог система, постоје и сајбер претње, укључујући такозвани prompt injection, којим нападач може покушати да манипулише АИ системом или агентом.

Кадић зато наглашава да и у системима са високим степеном аутоматизације човек мора остати коначна контролна тачка. АИ може да убрза анализу и обраду података, али не би требало да буде једини доносилац одлука у критичним системима.

Предлог закона треба да обухвати и забрањене системе, али и ту постоје сложена питања. АИ је већ уграђена у авионе, аутомобиле и друге системе у којима одлуке могу имати директне последице по људски живот. Због тога ће бити неопходно пажљиво дефинисати границе између прихватљиве аутоматизације и система код којих човек мора имати последњу реч.

Казнена политика биће још један нови елемент. Марија Гњатовић наводи да ће закон предвиђати казнене одредбе, али уз принцип пропорционалности. То значи да санкције не би требало да буду исте за малу домаћу компанију и велики глобални систем, већ ће се узимати у обзир величина компаније и обим њеног пословања.

Институционални оквир још није коначно дефинисан. Очекује се постојање регулаторног тела, а једна од могућности је и оснивање нове агенције, али коначна одлука још није донета. Значајну улогу имаће и нотификациона тела која ће процењивати усклађеност система, као и акредитационо тело које ће проверавати спремност тих тела за обављање посла.

Управо ће недостатак стручњака бити један од највећих изазова за примену закона. За процену АИ система потребна су знања из технологије, права, безбедности, различитих привредних сектора и других области. Као један од занимљивих модела наведена је Јужна Кореја, која је окупила стручњаке из различитих институција, науке и привреде у својеврсни пул експерата, уместо да све функције везује за фиксна радна места у новим институцијама.

Посебно питање је заштита интелектуалне својине. Према оцени Ивана Кадића, није довољно очекивати да држава законом реши све проблеме. И саме компаније морају да користе технологију како би заштитиле свој садржај. Као пример наводи пројекат Reputeo-а и Телекома Србија, у којем се АИ користи за заштиту садржаја од неовлашћеног коришћења за тренирање великих језичких и визуелних модела.

То показује и једну ширу промену: развој АИ не отвара само питање како користити технологију, већ и како заштитити садржај, податке и интелектуалну својину у свету у којем машине све више уче из постојећег материјала.

За фриленсере, мале фирме, стартапе и друге који свакодневно користе АИ алате, један од најважнијих закључака је да регулација не значи да ће употреба ChatGPT-а и сличних алата за писање, анализу, програмирање или друге послове бити забрањена. Већи значај имаће начин на који се технологија користи, врста података који се обрађују и последице које одређени АИ систем може да има.

За фриленсере и мале предузетнике посебно је важно да буду опрезни са поверљивим подацима клијената, уговорима, личним подацима, интерним документима и материјалима заштићеним ауторским правом. Чињеница да је неки АИ алат лако доступан не значи да је без ризика уносити у њега све пословне информације. Истовремено, за оне који развијају сопствене АИ производе биће од пресудне важности да се правила не поставе тако да трошкови усклађивања постану препрека за мале тимове.

Инфраструктура би могла да буде једна од предности Србије. Према Кадићевим речима, држава је последњих година улагала у суперкомпјутере и дата центре, а развија се и приватна инфраструктура за АИ. То отвара могућност да домаће компаније своја решења тестирају и развијају у Србији, уместо да за сваки корак зависе од инфраструктуре ван земље.

За стартапе је, поред инфраструктуре, важан и приступ првом кориснику и тестирању у реалном окружењу. Управо зато би регулаторни сандбоксови могли да буду један од најважнијих механизама подршке развоју домаће АИ индустрије.

Као један од приоритета за подстицање домаћих компанија издваја се и поједностављивање сертификације. Ако компанија развије производ у Србији и испуни домаће и релевантне европске стандарде, важно је да јој то омогући лакши излазак на тржиште Европске уније. За мале компаније које желе да извозе сопствени производ, та могућност може бити пресудна.

Када је реч о даљем поступку, Марија Гњатовић наводи да је у току израда једне од наредних верзија закона, након чега је планирана јавна расправа. Предлог би потом требало да буде достављен Европској комисији на процену усаглашености са европским оквиром, а очекује се да закон буде усвојен до краја 2026. године. Примена би била одложена, како би институције, компаније и стручна заједница имале време да се припреме.

Кључна порука разговора јесте да Србија не може да заустави развој вештачке интелигенције, али може да постави правила за њену безбедну и одговорну примену. Изазов ће бити да се истовремено заштите грађани, подаци и интелектуална својина, а да се домаћим компанијама, стартапима, програмерима, фриленсерима и истраживачима остави довољно простора да развијају нова решења и пласирају их на глобално тржиште.

Управо ће квалитет тог баланса одредити да ли ће нови закон бити само додатна регулаторна обавеза или и механизам који Србији може да помогне да изгради конкурентнију и сигурнију АИ индустрију.

Извор: НАЛЕД/Кућа добрих вести