OpenAI lansează Whisper, un instrument de transcriere bazat pe inteligență artificială
OpenAI, lider în domeniul tehnologiei și creatorul ChatGPT, a dezvăluit recent noul său instrument de transcriere, cunoscut sub numele de Whisper. Acest software folosește inteligența artificială pentru a realiza transcrierea, dar cercetătorii atrag atenția asupra unei slăbiciuni majore: tendința de a genera informații false, inclusiv propoziții complete inventate. Aceste constatări au fost raportate de agenția Reuters.
Pretenții de acuratețe și probleme de fond
Reprezentanții OpenAI au caracterizat Whisper ca având o „robustete și acuratețe comparabile cu cele ale umanului”. Cu toate acestea, feedback-ul obținut de la peste zece ingineri de software, dezvoltatori și cercetători de la universități ridică semne de întrebare cu privire la această afirmație. Membrii acestei comunități științifice notează că unele dintre materialele create aleatoriu, denumite în jargonul din industrie „halucinații”, pot conține elemente problematice precum comentarii rasiale, incitări la violență sau tratamente medicale fictive.
Implicarea în domeniul medical
Experții evidențiază că aceste deviații de la realitate pot avea implicații foarte grave, mai ales având în vedere utilizarea tot mai frecventă a Whisper în diverse domenii profesionale, inclusiv în medicină. Este îngrijorător că multe centre medicale aleg să utilizeze acest instrument pentru transcrierea consultațiilor pacienților, în ciuda avertismentelor OpenAI. Această companie a sfătuit că utilizarea Whisper în „domenii cu risc ridicat” nu este recomandată. Alondra Nelson, fostă șefă a Biroului de politici științifice și tehnologice al Casei Albe, a declarat că greșelile generate de Whisper ar putea avea „consecințe foarte grave” în mediul spitalicesc. Aceasta a subliniat importanța preciziei în diagnosticare, afirmând: „Nimeni nu își dorește un diagnostic greșit. Ar trebui să existe un standard mai ridicat”.
Utilizarea pentru subțitrări
Whisper nu este folosit doar în medicină; de asemenea, este implementat pentru a crea subtitrări destinate persoanelor surde și cu deficiențe de auz. Aceste segmente de populație sunt deosebit de vulnerabile la erorile de transcriere. Peste 30.000 de medici și 40 de instituții medicale, inclusiv Clinica Mankato din Minnesota și Spitalul de Copii din Los Angeles, au început să integreze Whisper în procesele lor de lucru. Această extensie a utilizării aduce cu sine riscuri semnificative, având în vedere că informațiile greșite pot afecta atât pacienții, cât și calitatea îngrijirii medicale oferite.
Feedback din partea comunității științifice
Reacțiile din partea comunității tehnice și medicale indică un amestec de interes și îngrijorare. Mulți experți recunosc potențialul lui Whisper de a îmbunătăți eficiența proceselor de transcriere, dar subliniază necesitatea unei reglementări mai stricte datorită riscurilor asociate cu erorile de transcriere. Faptul că acest instrument devine din ce în ce mai popular în rândul instituțiilor de sănătate aduce în discuție standardele de fiabilitate pe care tehnologia trebuie să le respecte, mai ales când se ocupă de informații sensibile.
Provocările reglementării utilizării AI
Utilizarea instrumentului Whisper în medii critice ridică întrebări importante cu privire la reglementarea tehnologiilor pe bază de inteligență artificială. Oamenii de știință cer stabilirea unor standarde clare care să garanteze că astfel de instrumente nu pun în pericol sănătatea și siguranța oamenilor. Fezabilitatea unui cadru de reglementare care să integreze în mod eficient tehnologie avansată și etica profesională rămâne un subiect complex, dar esențial pentru viitorul acestora.
Scurta privire asupra viitorului
Monitorizarea atentă a utilizării Whisper și evaluarea continuării acestuia în diverse industrii se dovedește a fi crucială. Pe măsură ce tehnologia inteligenței artificiale continuă să avanseze, provocările regulatorii și etice vor necesita o atenție mai mare pentru a asigura o implementare responsabilă și sigură a acestor instrumente avansate. Numai prin abordarea acestor aspecte se poate exploata pe deplin potențialul inovațiilor bazate pe AI, minimizând în același timp riscurile implicate.
