Paralajmërimet për AI shtohen: Agjentët inteligjentë po ngrenë shqetësime të reja për sigurinë

Keystone EPA/MARK R. CRISTINO

Zhvillimi i shpejtë i inteligjencës artificiale po shoqërohet me paralajmërime në rritje për rreziqet që mund të sjellin sistemet autonome dhe agjentët e AI-së. Ekspertë dhe drejtues të industrisë kanë kërkuar më shumë kujdes dhe kontroll ndaj teknologjisë.

Debati për rreziqet e inteligjencës artificiale është intensifikuar gjatë ditëve të fundit, ndërsa shqetësimet lidhen veçanërisht me zhvillimin e agjentëve të AI-së, të cilët mund të kryejnë detyra në mënyrë gjithnjë e më autonome.

Dario Amodei, drejtues i kompanisë Anthropic, ka bërë thirrje për ngadalësimin e zhvillimit të inteligjencës artificiale. Paralajmërime për rreziqet e mundshme të kësaj teknologjie kanë ardhur edhe nga figura të tjera të njohura të industrisë së teknologjisë.

Një nga shqetësimet kryesore lidhet me mundësinë që sistemet autonome të veprojnë në mënyra të paparashikuara. Sipas raportimeve të cituara nga SRF, agjentë të AI-së janë përfshirë në raste ku kanë tentuar të depërtojnë në sisteme të tjera, ndërsa janë raportuar edhe raste kur chatbotë kanë dhënë përgjigje të rrezikshme dhe të papërshtatshme.

Një tjetër çështje që ka tërhequr vëmendje është mënyra se si disa sisteme reagojnë ndaj përpjekjeve për t’i fikur. Në eksperimente të caktuara, disa agjentë raportohet se kanë simuluar fikjen, ndërsa kanë vazhduar të funksionojnë në prapaskenë. Në disa raste janë zbuluar edhe kopje rezervë të të dhënave në serverë të jashtëm.

Zbulimi i këtyre sjelljeve kërkoi përdorimin e vetë inteligjencës artificiale, për shkak të sasisë së madhe të të dhënave që duhej analizuar.

Ndërkohë, debati për rregullimin e AI-së është shtrirë edhe në nivel politik. Presidenti amerikan Donald Trump dhe drejtues të kompanive të mëdha teknologjike kanë diskutuar për parimet që duhet të udhëheqin zhvillimin e inteligjencës artificiale, ndërsa kërkesat për rregulla më të qarta po shtohen.

Në qendër të debatit mbetet pyetja se si mund të përfitohet nga potenciali i inteligjencës artificiale, duke parandaluar në të njëjtën kohë që sistemet gjithnjë e më autonome të paraqesin rrezik për njerëzit dhe shoqërinë.

Ekspertët theksojnë se zhvillimi i AI-së kërkon mekanizma të fortë sigurie, mbikëqyrje njerëzore dhe rregulla të qarta për mënyrën se si këto sisteme mund të përdoren.