Agenția Internațională pentru Energie Atomică, îngrijorată că Israelul ar putea viza instalațiile nucleare iraniene
Pășunile prostiei omenești – Deep Learning
În 1950, Alan Turing publica în prestigioasa pe atunci revistă Mind un articol care a făcut istorie, la care mințile mai luminate ale informaticii s-au tot întors de-a lungul vremii, până când au descoperit că e mult mai lucrativ să investești în marketing decât în gândire. Unii au luat conceptul „jocul imitației” (mai cunoscut azi ca „testul Turing”) drept regulă de aur pentru depășirea unui prag în „inteligența artificială”, alții s-au bătut cu el ca ateii recenți cu poveștile din Biblie. Puțini mai țin minte concluzia lui Turing acum 70 de ani, valabilă și azi: întrebarea „Pot mașinile să gândească?” e „prea lipsită de sens ca să discutăm pe marginea ei”. Dar pot mașinile să învețe?
Serviciul de traducere Google, cel mai cunoscut dintre încercările de gen, ne arată foarte bine cum învață mașinile. În urmă cu câțiva ani, dacă încercai să traduci din germană în engleză „Google, nu mă mai traduce”, rezultatul era… „Google, nu te mai sui pe mine”. Între timp, translatorul automat a „învățat” (după ce bancul, cât se poate de real, de altfel, a circulat o vreme pe net și au aflat responsabilii) că germana are cuvinte compuse care înseamnă cu totul altceva decât luate separat. Dar am văzut multe alte mostre de umor involuntar produse de traducătorii artificiali (nu că ar exista mulți traducători umani mult mai breji!) dintr-un simplu neajuns: posibilitatea de a interpreta diferit un cuvânt sau o expresie, cu sensuri cât se poate de depărtate. „Țara arde și baba se piaptănă” nu comunică existența vreunui pârjol, iar „un leu” nu rage neapărat.
Găselnița relativ recentă a savanților din marketingul centrat în jurul „inteligenței artificiale” creează multor capete cu circumferința mai mare decât coeficientul de inteligență impresia că suntem la un pas de apariția mașinilor periculoase, care o să preia controlul. Cum „algoritmul” (ca divinitate) devenise prea slab pentru a mai mulge atenția naivilor, iar calculatorul „cuantic” are vreun deceniu de când tot promite să calce totul în picioare și trage doar vânturi plăpânde, era nevoie de un nou impuls pentru roata imaginației populare. Așa că au apărut „rețelele neurale” și „învățarea profundă”, două concepte valabile în sine, dar cu totul deplasate în peisajul computațional. Simplu, schema arată așa: complicăm lucrurile până nu prea mai înțelegem nici noi mare lucru și lumea o să creadă că facem minuni.
Sigur, încercarea de a face pași înainte e lăudabilă în orice domeniu, dar nu orice pas ne aduce prosperitatea visată de gură-cască. Dar să fim serioși, computerul nu învață nimic altceva decât ce a fost învățat să „învețe”, așa cum un algoritm nu aduce rezultate din proprie inițiativă, ci conform instrucțiunilor foarte precise pe care le conține. Traducătorul de care pomeneam mai sus n-a „învățat” decât ce a fost instruit să rețină. În continuare comite orori și o să comită în veci, indiferent de cantitatea de instrucțiuni, fiindcă limba omenească e doar o casă, cum bine zis-a Heidegger, din care dacă scoți ființa (a se citi „gândirea”) nu mai rămâne nimic. E adevărat, computerele au ajuns să bată campionii mondiali la șah și go, dar ăsta nu e semn de învățătură, ci de capacitate de calcul. Cine înțelege ceva dintr-o partidă de șah să se uite la un meci între AlphaZero și Stockfish. Jocul acestor motoare (cele mai puternice din lume) este un balet straniu al pieselor, pe care uneori nu-l înțeleg nici profesioniștii, iar singurele legături cu jocul original sunt date de piese și de reguli. Spiritul și frumusețea jocului pe care le admirăm la partidele umane, de la cele obișnuite până la cele veșnic-verzi, apar doar accidental și pe secvențe minuscule.
Marile progrese de la șah și go n-o să se repete însă în industria medicală, așa cum speră amatorii exaltați. Indiferent cât de „reușite” și „promițătoare” ar fi testele făcute la scară mică (și minuțios „pregătite”), ele rămân doar niște teste. Medicina are și ea sintaxa ei, în care adesea se împiedică și medicii. Calculatorul o poate „învăța” doar în măsura în care e alimentat cu o cantitate enormă de date, ceea ce deschide deja un întreg set de probleme etice. Și ar trebui să fim foarte atenți cu asta, fiindcă propovăduitorii „doctorului IA” nu sunt alții decât savanții care, de un an și jumătate, ignoră orice pistă de ieșire din criza sanitară care nu trece prin vaccin. Cum omenirea fermecată de tehnologia „deșteaptă” e greu de crezut că o să înțeleagă ce pățește înainte de stadiul terminal… scapă cine poate. Cum spunea Ibn Khaldoun acum șapte sute de ani… „pășunile prostiei sunt foarte periculoase pentru umanitate”.
Comentarii
19 comentarii pentru articolul „Pășunile prostiei omenești – Deep Learning”
Lasă un răspuns
Invitații cristoiublog
Dacă a fost marți, s-au luptat cu trei ceasuri rele tot marțafoii din Belgia!
Invitații cristoiublog
„Doctorul IA va fi soluția prin care necăjiții planetei vor avea parte și ei la un moment dat de asistență medicală. De ce ar trebui să fim egoiști și să ne opunem? Oricum, noi vom fi oale și ulcele atunci, momentan este prematur să ne opunem.
Și dacă este adevărat ca IA va fi dotată și cu memoria transferată de la ființe umane, cu atât mai bine.
„Doctorul IA”.
Adică medicina clasică n-a putut să-i ajute, dar calculatorul poate? De ce ar investi cineva sume colosale într-un proiect de medicină IA, când putea pur și simplu să le ofere oamenilor asistență medicală?
Se investesc sume colosale și în pregătirea medicilor și în salariile acestora. Cu toate acestea, nici statele din occident nu au medici destui.
Nu au medici-oameni, fiindcă medici-roboți sunt destui. Iar rezultatele se văd deja. Medicii se uită la fiecare virgulă dintr-un buletin de analize și trag cu urechea la diagnosticul dictat de aparate, fără să mai vadă nimic din pacientul pe care-l au în față și care e un om în carne și oase, nu o mașină căreia i se cere schimbat uleiul sau diverse piese. Din păcate, medicina a devenit o mare afacere (presupunând că a fost vreodată altceva, așa cum îmi place mie să cred).
SH, dumneavoastră aveți dreptate când atingeți punctul delicat al deontologiei medicale care se degradează pe zi ce trece, cam peste tot. Din păcate.
Poate tocmai de aceea, mașinile, doctorii IA, vor lua la un moment dat locul medicilor care nu țin cont de jurământul depus.
Ar fi trebuit să zic „și de aceea”, nu doar „de aceea”.
Iti garantez ca solutia dr IA va fi solutia spartana. Tratamentele costa. Inmormantarile sau crematiunea sunt mult mai ieftine. Dr IA va face job ticket-ul instant. Ce crezi ca va alege la optimizarea cost/beneficii? Ori suntem capitalisti, ori nu mai suntem?
Nu ai cum să garantezi. Dacă se va ajunge atât de departe, cu siguranță se va ajunge, într-un fel sau altul, și la rezolvarea problemei tratamentelor.
Pai se va ajunge, ce am zis eu ca nu? Dar se va rezolva cum am zis. In stil corporatist conform calculului cost/beneficii. Ca doar nu degeaba suntem condusi azi de corporatii. Sa ma ierte naivii care mai cred in sistemul politic clasic, ala care umbla cu democratia si alegerile (votul) in gura!
O mica completare. Dupa parerea mea, nici cel mai performant calculator (cuantic au ba), nu va putea da tusele lui Caravaggio, Michelangelo sau daVinci, nici genialitatea acordurilor lui Beethoven. Poate avea incarcati toti algoritmii lumii de la Facere pana azi. N-are nici cea mai mica sansa. In asta sta superioritatea neta a creierului uman. Cam astea sunt rezultantele „PC”-ului meu dintre urechi.
Nu ma pricep, nu e domeniul meu. Dar ma gandesc ca creierul uman si calculatoarele cu toate ca par sa aiba o anumita similitudine de procesare, nu lucreaza in acelasi mod. PC-urile au putere de procesare si viteza de lucru enorme, fiind capabile sa ia decizii conform algoritmilor de lucru, in mod instant. Creierul uman are pe anumite domenii viteza de melc, asisderea viteza de procesare. Dar in altele e net superior oricarui calculator. Creierul uman are ceea ce un PC nu va avea in veci si anume : imaginatie. Concluzia mea e ca sunt doua „animale” total diferite, cu kernel-uri iar total diferite. Pot fi doar complementare, nu se pot substitui. Totusi, lumea fara PC poate trai, fara creier, n-are nici cea mai mica sansa. De altfel acest lucru se vede azi. Cu cat PC-urile devin mai performante si mai dominante in lumea de azi, omul isi saboteaza singur creierul sau mai bine zis refuza sa si-l mai antreneze. Suntem din ce in ce mai lenesi. Poate lumea considera ca nu mai are ce cauta p-aici? Tot ce se poate. Poate Terra va da si altora sansa pe care omul a pierdut-o. Parerea mea!
Păi nu lucrează absolut deloc în același mod. Shema cu „rețele neurale” e o imitație ieftină a schemei cerebrale. Puteau fi și lanțuri, ori câmpuri. Diferența dintre legături electrochimice (prietena Steliana Huhulescu ar putea să ne scrie un articol întreg despre spectacolul de artificii al unui „fire up” neural) și portițe electrice. E ca și cum ai compara titirezul cu acceleratorul de particule.
Se pare ca am intuit corect. Si m-am bazat doar pe logica si propria mea experienta. In legatura cu covidul si corectitudinea politica prefer sa-mi infranez intuitia ca ma ia groaza la ce inlantuiri logice as putea face si la ce rezultate mi-ar da la final. Asa ca stau mai mult in idle-mode. 😎
Interesant si decent articol dar: Nu tot ce e logic e si adevarat/real, dupa cum nu neparat tot ce este adevarat/real este intotdeauna si logic.
Mai mult, ar trebui sa tineti cont de un lucru: faptul ca un anumit tip de cunoastere nu e detinuta de toata lumea, aceasta nu inseamna ca ea nu exista.
Tocmai ce ati afirmat ca afirmatia pe care a facut-o Turing e veche de 70 de ani.
Intre timp, sa stiti ca cei „ahtiati” de domeniu nu au ramas pe loc.
(contra)exemplele pe care le-ati dat dumneavoastra nu dovedesc mare lucru, sa stiti.
Chintesenta situatiei e in aceasta afirmatie: „Dar să fim serioși, computerul nu învață nimic altceva decât ce a fost învățat să „învețe”, așa cum un algoritm nu aduce rezultate din proprie inițiativă, ci conform instrucțiunilor foarte precise pe care le conține”
Ei bine, va aduc aminte ca universul, pe cat de bizar ar putea parea, nu este altceva decat rezultatul evolutiei unor algoritmi de baza, capabili de transformare/evolutie. In acest sens ar trebui sa va aduceti aminte ca „la inceput a fost… logos-ul”. Dupa cum puteti vedea, pana si unii „invatati” au tradus gresit termenul. Cu toate acestea, exista si alti oameni care, in final, ca toti ceilalti, nu sunt altceva decat o suita bine imbinata de programe care stiu foarte bine ca „logos”-ul defineste mult mai mult decat „cuvantul”.
Ei bine, asa cum omul a evoluat pentru ca avea in sine samanta gandirii/inteligentei, va garantez ca va veni vremea cand programele create de niste „entitati mai pline de cunoastere” vor fi suficient de „inteligente” incat sa ajunga sa invete dincolo de setul initial de instructiuni.
E adevarat ca deocamdata ce se „vinde” pe piata e mult „zgomot pentru nimic” dar va asigur ca ce se intampla „in spatele cortinei” este cu muult peste imaginatia multora. Inca ceva: odata ce „e pus pe picioare”, un algoritm suficient de „istet” pentru a evolua, timpul nu mai de deloc o problema pentru el. Va fi capabil sa ruleze o „infinitate” de simulari in mult mai putin timp decat v-ar trebui dumneavoastra, spre exemplu, sa invatati o limba straina. Si, odata intamplat acest lucru, algoritmul acela va putea simula foarte bine nu inteligenta ci genialitatea.
Un ultim aspect: Oamenii se lauda ca sunt inteligenti/gandesc dar inca nu am vazut pe cineva/auzit de cineva care sa demonstreze cu adevarat acest lucru. Cei mai multi dintre noi nu fac decat sa „mestece” gandurile altora. Mare atentie: un algoritm „istet” poate face acest lucru.
Filozofii și jurnaliștii cred că se pricep la toate.
Lasa asa ca e funny! :)))))
Acuma… ce să zic? Fiecare are dreptul să creadă că le pricepe pe toate. Mai rău e când vine realitatea și confirmă că i se-ntâlnesc mai rar gândurile. Ori că i se rătăcesc des… după caz.
Foarte tare.