Noul comitet va recomanda consiliului de administratie al OpenAI "decizii critice de siguranta si securitate pentru proiectele si operatiunile OpenAI", a spus compania.Vestea formarii noului comitet vine in momentul in care dezvoltatorul asistentului virtual ChatGPT a anuntat ca a inceput sa-si antreneze "modelul urmator de frontiera".Firma a spus intr-o postare pe blog ca anticipeaza "sistemele rezultate pentru a ne aduce la urmatorul nivel de capabilitati pe drumul nostru catre AGI" sau inteligenta generala artificiala, un tip de AI care este la fel de inteligenta sau mai inteligenta decat oamenii.Pe langa Altman, comitetul de siguranta va fi format din Bret Taylor, Adam D'Angelo si Nicole Seligman, toti membri ai consiliului de administratie al OpenAI, potrivit postarii pe blog.Formarea unei noi echipe de supraveghere vine dupa ce OpenAI a dizolvat o echipa anterioara care s-a concentrat pe riscurile pe termen lung ale AI.Inainte de aceasta, ambii lideri de echipa, co-fondatorul OpenAI Ilya Sutskever si cercetatorul cheie Jan Leike, si-au anuntat plecarile de la startupul sustinut de Microsoft.Leike a scris la inceputul acestei luni ca "cultura si procesele de siguranta ale OpenAI au trecut pe planul din spate in fata produselor stralucitoare".Ca raspuns la plecarea sa, Altman a spus pe platforma de socializare X ca este trist sa-l vada pe Leike plecand, adaugand ca OpenAI are "mult mai multe de facut".In urmatoarele 90 de zile, grupul de siguranta va evalua procesele si garantiile OpenAI si va impartasi recomandarile sale consiliului de administratie al companiei, se arata in postarea de pe blog.OpenAI va oferi o actualizare cu privire la recomandarile pe care le-a adoptat la o data ulterioara. Siguranta AI a fost in prim-planul unei dezbateri mai ample, deoarece modelele uriase care stau la baza aplicatiilor precum ChatGPT devin mai avansate. Dezvoltatorii de produse AI se intreaba, de asemenea, cand va ajunge AGI si ce riscuri o vor insoti. Articolul OpenAI creeaza o echipa de supraveghere, cu Sam Altman ca membru; compania a inceput antrenarea unui nou model de chatbot apare prima data in Money.ro.

citeste mai mult...