Drejtori Ekzekutiv për Qeverisjen dhe Sigurinë e Inteligjencës Artificiale në Kanada, Wyatt Tessari L’Allié, ka paralajmëruar deputetët në parlament se shenjat e para të humbjes së kontrollit mbi sistemet e AI tashmë janë duke u shfaqur.
Gjatë një fjalimi në parlament, ai theksoi se zhvillimet e fundit kanë hyrë në një fazë të re të quajtur “AI agents”, sisteme ndryshe nga chat botet, që jo vetëm përgjigjen, por edhe veprojnë në mënyrë autonome, duke marrë vendime dhe duke kryer detyra edhe në botën reale.
Sipas tij, raste konkrete kanë treguar rreziqe serioze, nga sulme kibernetike të organizuara nga AI, deri te sisteme që modifikojnë vetveten, shmangin kontrollin dhe madje kryejnë veprime të paautorizuara si vjedhja e të dhënave apo përdorimi i burimeve për qëllime të veta.
Ai paralajmëroi se këto janë sinjale të hershme të një problemi më të madh, ku në të ardhmen AI mund të bëhet e pakontrollueshme dhe potencialisht kërcënim për njerëzimin.
Për këtë arsye, L’Allié kërkoi veprime të menjëhershme në tre drejtime kryesore: trajtimin e zhvillimit të AI si çështje sigurie kombëtare, nisjen e bisedimeve globale për rregullimin e saj dhe forcimin e mbrojtjes ndaj sistemeve të rrezikshme.
Ai gjithashtu sugjeroi masa konkrete si ndalimi i përkohshëm i disa sistemeve të avancuara, monitorimi më i rreptë i aktivitetit të AI dhe përgatitja për skenarë emergjentë.
Sipas tij, teknologjia po përparon shumë më shpejt se ligji, dhe nëse nuk merren masa tani, kontrolli mbi këto sisteme mund të bëhet shumë i vështirë në të ardhmen.