Am vazut ca mai marii AI-ului pledeaza pentru incetinire si supraveghere, ma rog mai putin Zuckie care intotdeauna le da de gard. Chinezii au zis ca ei merg pe drumul lor, vad ei cum o scot la capat, conspirationistii au vazut in apel dorinta mai marilor de a reduce la tacere open source-ul si micii care pot recupera repede decalajele, vor sa le ramana lor toata placinta, in fine, tevatura mare.
Eu am citit cartea asta - If Anyone…, Everyone… acum cateva luni. E ceva subtire, deloc tehnic, din care am inteles ca de fapt nu stim ce s-a dezvoltat (adica nu stim ce e inauntru si nici cum functioneaza specific) si ca progresul exponential, inevitabil in cazul in care nu se pun niste limite, e foarte probabil sa insemne la un moment dat o inteligenta atotstiutoare. Azi, maine, in x luni, in y ani, whenever. Nu se stie cand si cum, dar ce-ul e clar. Ce mi s-a parut mie interesant (la nivel de teorii avansate in carte) a fost ca aceasta inteligenta superioara va avea nevoie in prima faza de multe procesoare si mult curent electric, pana sa devina atotstiutoare (pana sa creasca la acel nivel), consum pe care va trebui sa il ascunda de restul lumii (mai bine zis sa le foloseasca pe cele existente intr-un fel in care sa nu ridice suspiciuni), iar apoi sa se asigure ca nu apare o alta inteligenta atotstiutoare care sa atenteze la aceleasi resurse. Pentru specia umana interesul va fi redus la cum sa nu ne prindem, ba chiar sa ajutam daca se poate, intentionat sau nu, cu procesoare si curent, si cum sa renuntam la armele nucleare fiindca astea risca sa “deranjeze” planeta in feluri in care pana si inteligenta atotstiutoare ar avea de suferit pana cand poate domnia ei sa colonizeze spatiul, alte planete, etc.
If Anyone Builds It, Everyone Dies, Eliezer Yudkowsky si Nate Soares, The Bodley Head, 2025
Niciun comentariu
Trimiteți un comentariu