Inteligența artificială poate acum explica deciziile pe care le ia

Oamenii sunt speriați de necunoscut. În mod natural, unul dintre motivele pentru care inteligența artificială (AI)  nu a fost adoptată pe scară largă ar putea fi acela că rațiunea din spatele luării deciziilor de către mașini nu era cunoscută, scrie site-ul IBM.com, platformă dedicată tehnologiei.

Cutia neagră a Inteligenței Artificiale

Cum pot fi încredințate inteligenței artificiale deciziile când oamenii nu știu de unde provin? Aceasta este numită cutia neagră a AI – ceva ce trebuie să fie desfăcut. Dat fiind că tehnologia continuă să joace un rol din ce în ce mai important în viața de zi cu zi și să schimbe rolurile în cadrul forței de muncă, etica din spatele algoritmilor a devenit un subiect foarte dezbătut.

Medicii sunt considerați printre primii care vor beneficia foarte mult de tehnologiile AI și deep learning technology, care poate scana cu ușurință imaginile și analiza datelor medicale, dar ale căror algoritmi de luare a deciziilor vor fi de încredere doar odată ce oamenii înțeleg cum se ajunge la concluzii.

Gânditorii cheie avertizează că algoritmii pot întări prejudecățile și prejudecățile programatorilor, dar IBM (IoT For All, platformă online în limba engleză dedicată tehnologiei, nota trad.) are o viziune diferită.

Algoritmi AI mai eficienți

IBM încearcă să ofere o perspectivă asupra modului în care AI ia decizii, detectând în mod automat erorile și explicând chiar ele cum se iau deciziile. Tehnologia lor sugerează, de asemenea, mai multe date pe care să le includem în model, ceea ce poate ajuta la neutralizarea viitoarelor erori.

IBM a implementat o AI pentru a ajuta la luarea deciziilor în cadrul IBM Watson, care a oferit medicilor planuri de tratament bazate pe dovezi care încorporează gestionarea automată a îngrijirii și implicarea pacientului în planurile de tratament.

Experții nu au avut încredere în model, deoarece acesta nu a explicat cum au fost luate deciziile. Watson a ajutat la diagnosticul medical și a întărit deciziile medicului, dar tehnologia plină de speranță nu putut înlocui medicul. Când Watson a oferit o analiză în concordanță cu medicii, a fost folosit ca măsură de întărire. Dar când Watson a oferit rezultate diferite de cele ale medicilor, s-a dovedit că acesta s-a înșelat.

Însă cea mai recentă inovație a companiei, care nu a primit încă un nume, pare să rezolve lipsurile de la Watson. Poate Sherlock ar fi un nume potrivit.

Sursele deschise și etica AI

Alături de anunțul acestei tehnologii AI, IBM Research a lansat, de asemenea, un kit de instrumente de detectare și reducere a erorilor AI cu sursă deschisă, oferind instrumente și resurse pentru a încuraja colaborarea globală în ceea ce privește detectarea erorilor în funcționarea inteligenței artificiale.

Aceasta include o colecție de materiale, algoritmi și tutoriale care vor oferi cadrelor universitare, oamenilor de știință și cercetătorilor instrumentele și resursele de care au nevoie pentru a integra detectarea erorilor în modelele lor de învățare automată.

Sursă articol

Sursă foto: Pexels.com

Notă Robert Ciobanu este bursier al Fundației Konrad Adenauer în colaborare cu G4Media.ro