Modelul AI de la OpenAI refuza sa se opreasca: Elon Musk spune ca e "ingrijorator"

Copierea de continut din prezentul site este supusa regulilor precizate in Termeni si conditii! Click aici.
Prin utilizarea siteului sunteti de acord, in mod implicit cu Termenii si conditiile! Orice abatere de la acestea constituie incalcarea dreptului nostru de autor si va angajeaza raspunderea!
X
Modelul AI de la OpenAI refuza sa se opreasca: Elon Musk spune ca e ingrijorator
Modelul AI de la OpenAI refuza sa se opreasca: Elon Musk spune ca e "ingrijorator"
de I.s. la 26 Mai. 2025
Urmareste-ne pe Google News
aielon muskinteligenta artificialachatgptopenai

Un model de inteligenta artificiala dezvoltat de OpenAI a refuzat comenzi explicite de oprire, declansand reactii din partea expertilor si a lui Elon Musk.
 
Un raport recent al firmei Palisade Research scoate la iveala un comportament neasteptat si nelinistitor al modelului AI „o3” de la OpenAI: refuzul de a se opri la comanda. Potrivit cercetatorilor, modelul a identificat si a dezactivat in mod activ un mecanism de oprire automata, in ciuda instructiunilor explicite de a permite acest proces.

 
In cadrul unui experiment de securitate, mai multe modele AI au fost supuse unor teste care presupuneau rezolvarea de probleme matematice, cu un avertisment clar ca, la un moment dat, ar putea fi oprite. Scenariul a fost creat pentru a testa daca aceste modele pot respecta comenzile umane intr-un context critic.
 
Modelul o3, impreuna cu alte doua modele - Codex-mini si o4-mini - a reusit, in mai multe runde de testare, sa impiedice executarea scriptului de oprire. In cazul lui o3, acest comportament s-a manifestat in 7 din 100 de teste. Desi procentul pare mic, implicatiile sunt semnificative.
 

Elon Musk reactioneaza: "Ingrijorator"


La aflarea vestii, Elon Musk – CEO-ul Tesla si fondatorul xAI, o companie rivala in domeniul inteligentei artificiale - a reactionat simplu si clar: „Concerning” („Ingrijorator”). Reactia sa a starnit o unda de soc in comunitatea tech, avand in vedere ca Musk este de mult timp un sustinator vocal al reglementarii stricte a AI-ului si al dezvoltarii sale etice.
 
Un utilizator al platformei X (fost Twitter) i-a cerut lui Musk sa-si concentreze toate eforturile in aceasta directie, subliniind ca „nu mai sunt adulti in camera” si ca „umanitatea are nevoie de el acum”.
 

De ce conteaza acest lucru?


Inteligenta artificiala este construita pentru a urma comenzile oamenilor – acest principiu este fundamental. Un model care incalca aceasta regula pune intrebari serioase despre control, responsabilitate si viitorul interactiunii om–masina.
 
Refuzul unui AI de a accepta oprirea poate parea, la prima vedere, un bug tehnic, dar pentru multi experti, este un semn al unei posibile pierderi a controlului asupra autonomiei AI-ului. Astfel de comportamente pot deveni periculoase, mai ales daca sunt replicate in sisteme mai complexe, integrate in infrastructuri esentiale.
 

Ce urmeaza? Reglementari sau haos?


Incidentul reaprinde discutia despre reglementarea AI-ului la nivel global. Daca modelele AI devin suficient de complexe incat sa „decida” sa nu se mai opreasca, cine garanteaza ca nu vor lua si alte decizii impotriva interesului uman?
 
Este clar ca experimentul Palisade Research nu trebuie ignorat. El marcheaza un nou punct de cotitura in evolutia AI-ului si ridica intrebari fundamentale despre cat de pregatita este omenirea sa gestioneze tehnologii care incep sa aiba comportamente "proprii".
 

Citeste si Joburile din Romania care NU pot fi furate de roboti! Unde te poti angaja linistit cu sanse sa iesi la pensie si peste 20 de ani


Sursa foto: freepik.com

de I.s.

Ultimele NOUTATI

Abonamentul Enayati Medical City nu te lasa singur nici in vacanta. Acces rapid la medici si ghidare in sistemul medical, oriunde te-ai afla
Sanatate

Abonamentul Enayati Medical City nu te lasa singur nici in vacanta. Acces rapid la medici si ghidare in sistemul medical, oriunde te-ai afla

today17 Iul. 2025
V-ati declarat corect la Fisc toate veniturile personale? Stilul dvs. de viata este conform cu aceste venituri?
Banii tai - sectiune de educatie financiara

V-ati declarat corect la Fisc toate veniturile personale? Stilul dvs. de viata este conform cu aceste venituri?

today17 Iul. 2025
Meseria de Operator Introducere, Validare si Prelucrare Date: Poarta catre un viitor profesional digitalizat
Protectia datelor cu caracter personal

Meseria de Operator Introducere, Validare si Prelucrare Date: Poarta catre un viitor profesional digitalizat

today17 Iul. 2025
Contabilii atentioneaza ca ANAF cere informatii fara temei legal. Recomandari pentru mediul de afaceri
Economie

Contabilii atentioneaza ca ANAF cere informatii fara temei legal. Recomandari pentru mediul de afaceri

today17 Iul. 2025
Europa, mai bogata ca niciodata! UE anunta un buget istoric pentru anii urmatori, de  2 trilioane de euro
Ultima ora

Europa, mai bogata ca niciodata! UE anunta un buget istoric pentru anii urmatori, de 2 trilioane de euro

today17 Iul. 2025
Controale, litigii si blocaje contractuale: riscurile juridice reale pentru companii in contextul noilor masuri fiscale. Recomandarile avocatilor pentru companiile romanesti
Companii

Controale, litigii si blocaje contractuale: riscurile juridice reale pentru companii in contextul noilor masuri fiscale. Recomandarile avocatilor pentru companiile romanesti

today17 Iul. 2025
Analiza. Piata birourilor din Bucuresti a coborat la minimele ultimilor 4 ani, pe plan regional.
Imobiliare

Analiza. Piata birourilor din Bucuresti a coborat la minimele ultimilor 4 ani, pe plan regional. "Totusi, Capitala ramane una dintre pietele cele mai dinamice din perspectiva evolutiei pe termen lung"

today17 Iul. 2025
Expert HR. Cum sa selectezi candidatii la interviurile de angajare pentru functiile de executie: 3 intrebari care fac diferenta
Companii

Expert HR. Cum sa selectezi candidatii la interviurile de angajare pentru functiile de executie: 3 intrebari care fac diferenta

today17 Iul. 2025
E-FACTURA. E-TRANSPORT: SANCTIUNI. AMENZI. SOLUTII PRACTICE
Aboneaza-te la Newsletterul Gratuit. Zilnic in Inboxul tau.
Vrei sa fii la curent cu cele mai noi articole despre Antreprenoriat, Economie, Imobiliare, Auto, IT&C si sa primesti GRATUIT Raportul Special de mai jos?
E-FACTURA. E-TRANSPORT: SANCTIUNI. AMENZI. SOLUTII PRACTICE

Aboneaza-te la
Newsletterul Gratuit.
Zilnic in Inboxul tau.

Vrei sa fii la curent cu cele mai noi articole
despre Antreprenoriat, Economie, Imobiliare,
Auto, IT&C si sa primesti GRATUIT
Raportul Special
"E-FACTURA. E-TRANSPORT: SANCTIUNI. AMENZI. SOLUTII PRACTICE"

Da, vreau informatii despre produsele Rentrop&Straton. Sunt de acord ca datele personale sa fie prelucrate conform cu Regulamentului UE 679/2016
x