OpenAI se dezvăluie de la regulile de siguranță ale Casei Albe
Recent, OpenAI a prezentat o propunere privind reglementarea sistemelor avansate de inteligență artificială (IA), care se abate de la planurile recente ale președintelui Donald Trump. Compania tech urmărește să influențeze Casa Albă și Congresul în direcția unei abordări preferate pentru guvernarea IA, subliniind necesitatea unor evaluări obligatorii pentru modelele avansate de IA în scopul identificării riscurilor.
Propunerea OpenAI, detaliată într-un document de politică, solicită guvernului federal să impună evaluări obligatorii ale modelelor avansate de IA, lăsând responsabilitatea supravegherii acestui proces agențiilor civile. Aceasta reprezintă o diferențiere semnificativă față de noul ordin executiv al Casei Albe, care a instituit un cadru voluntar pentru evaluarea sistemelor avansate de IA în ceea ce privește riscurile cibernetice, sub coordonarea Agenției Naționale de Securitate (NSA).
Planul OpenAI preconizează ca eforturile de evaluare a IA să fie conduse de Centrul pentru Standardizarea și Inovația în IA (CAISI), o entitate ce aparține Institutului Național de Standarde și Tehnologie al Departamentului Comerțului. Această propunere coincide cu sosirea CEO-ului OpenAI, Sam Altman, la Washington, unde va avea întâlniri importante cu oficiali ai Casei Albe și cu senatori din ambele partide.
Reacționând la ordinul executiv al președintelui, Chris Lehane, o figură de frunte în cadrul OpenAI, a apreciat direcția generală a acestuia, considerând-o o „validare” a eforturilor companiei de a dezvolta un cadru de reglementare pentru IA. Totuși, el a subliniat că OpenAI, alături de altele, dorește să încurajeze administrația Trump și Congresul să ofere CAISI un rol mai semnificativ în procesul de evaluare a IA.
În cadrul întâlnirilor programate, se așteaptă ca Altman să discute propunerile OpenAI, având în vedere că ordinul oferă agențiilor un termen de 60 de zile pentru a detalia informațiile. Aceste întâlniri ar putea influența pașii următori în formarea unui cadru mai complex de reglementare. Lehane a insistat asupra ideii că evaluările IA ar trebui să fie un proces comentat colectiv, în loc ca o singură entitate să monopolizeze deciziile.
Se pare că OpenAI are rezerve față de planul casei albe de a dezvolta și menține un proces de „benchmarking” pentru modelele avansate de IA, plan destul de confuz care ar putea complica evaluările din partea NSA. Lehane a menționat că este esențial să se stabilească criterii clare pentru a atinge pragul capacității.
Totuși, în ceea ce privește reglementările mai ample, Lehane a fost reticent, sugerând că este prematur să se discute despre cerințe stricte, cum ar fi obligativitatea obținerii unui aviz guvernamental înainte de lansarea noilor modele. Afirmând că, înainte de a aborda aspecte suplimentare, trebuie implementate primele etape de evaluare.