Unul dintre „părinții” inteligenței artificiale explică riscurile la care suntem supuși de AI-uri precum DeepSeek: „Nu este un lucru bun din punct de vedere al siguranței”

Potrivit The Guardian, Bengio a declarat că progresele start-upului chinezesc DeepSeek ar putea reprezenta o evoluție îngrijorătoare într-un domeniu dominat în ultimii ani de SUA. „Va însemna o cursă mai strânsă, ceea ce de obicei nu este un lucru bun din punctul de vedere al siguranței AI”, a spus el.

Concurența în domeniul AI

Bengio a mai explicat că firmele americane și alți rivali ai DeepSeek s-ar putea concentra pe recâștigarea avantajului în loc de siguranță. OpenAI, dezvoltatorul ChatGPT, a promis să accelereze lansările de produse ca răspuns la provocarea DeepSeek.

„Dacă vă imaginați o competiție între două entități și una crede că este mult în față, atunci își poate permite să fie mai prudentă și să știe, în același timp, că va rămâne în față”, a explicat Bengio. „În schimb, dacă aveți o competiție între două entități care cred că cealaltă este la același nivel, atunci trebuie să accelereze. Poate că nu acordă la fel de multă atenție siguranței”.

Raportul internațional privind siguranța AI

Primul raport complet internațional privind siguranța AI a fost elaborat de un grup de 96 de experți, inclusiv laureatul cu Premiul Nobel Geoffrey Hinton. Raportul afirmă că, de la publicarea unui studiu interimar în mai anul trecut, sistemele AI cu scop general, precum chatboții, au devenit mai capabile în „domenii relevante pentru utilizarea cu rea-intenție”.

Recomandări

Prostituția, o afacere de 150 de milioane de lei pe an în România, conform datelor oficiale ale Institutului Național de Statistică EXCLUSIV

Acestea includ utilizarea de instrumente automatizate pentru a evidenția vulnerabilitățile în software și sisteme IT, precum și oferirea de îndrumări privind producerea de arme biologice și chimice.

Riscuri potențiale ale AI

Conform aceleiași surse, raportul mai menționează că noile modele AI pot genera instrucțiuni tehnice pas cu pas pentru crearea de agenți patogeni și toxine care depășesc capacitățile experților cu doctorate. OpenAI a recunoscut că modelul său avansat o1 ar putea ajuta specialiștii în planificarea producerii de amenințări biologice.

Bengio a declarat că au apărut deja modele care, cu ajutorul camerei unui smartphone, ar putea ghida, teoretic, oamenii prin sarcini periculoase, cum ar fi încercarea de a construi o armă biologică. „Aceste instrumente devin din ce în ce mai ușor de utilizat de către nonexperți, deoarece pot descompune o sarcină complicată în pași mai mici pe care oricine îi poate înțelege, și apoi te pot ajuta interactiv să le faci corect. Și asta e foarte diferit de utilizarea, să zicem, a căutării Google”, a explicat el.

Raportul menționează că sistemele AI s-au îmbunătățit semnificativ de anul trecut în capacitatea lor de a detecta defecte în software în mod autonom, fără intervenție umană. Acest lucru ar putea ajuta hackerii să planifice atacuri cibernetice. Cu toate acestea, raportul afirmă că efectuarea de atacuri autonome în lumea reală este dincolo de capacitățile actuale ale sistemelor de AI, deoarece acestea necesită „un nivel excepțional de precizie”.

Recomandări

Bolojan vrea ca angajații de la Senat să intre la muncă prin scanare facială. „Ne transformăm în China. Nu e legal”- EXCLUSIV

Creșterea conținutului deepfake

Raportul mai indică spre o creștere semnificativă a conținutului deepfake, unde tehnologia este utilizată pentru a produce o imagine sau un clip extrem de asemănătoare cu realitatea. Deepfake-urile au fost folosite pentru a păcăli companiile să piardă bani, pentru șantaj și pentru a crea imagini pornografice ale unor persoane.

Există riscuri de utilizare malițioasă, deoarece modelele cu sursă închisă, unde codul de bază nu poate fi modificat, pot fi vulnerabile la „jailbreakuri” care ocolesc măsurile de siguranță. În același timp, modelele „open source” precum Llama de la Meta, care pot fi descărcate gratuit și modificate de specialiști, prezintă riscuri de „facilitare a utilizării malițioase sau greșite” de către actori rău intenționați.

Într-o notă ulterioară adusă la raport, Bengio mai menționează apariția în decembrie a unui nou model avansat de „raționament” de la OpenAI numit o3. Capacitatea acestuia de a progresa într-un test-cheie de raționament abstract a fost o realizare pe care mulți experți, inclusiv el însuși, o considerau imposibilă. Raportul mai subliniază necesitatea unei abordări prudente și a unor măsuri de siguranță robuste pe măsură ce tehnologia AI continuă să evolueze rapid.

Urmărește-ne pe Google News