Ethereum oprichter pleit voor AI noodknop voor algemene veiligheid
|
Vitalik Buterin pleit voor een mogelijkheid om computerbronnen wereldwijd te stoppen tegen het potentiële gevaar van AI superintelligentie.
Ethereum oprichter pleit voor AI noodknop
Vitalik Buterin, de oprichter van Ethereum (ETH), deelde gisteren een interessante blogpost als vervolg op een eerdere post die hij in november 2023 maakte. In de eerdere post deelde hij het idee van Defensive Accelerationism (d/acc), waarbij hij liet weten dat AI superintelligentie mogelijk nog maar vijf jaar verwijderd is. Daarbij is het niet te zeggen of de uitkomst positief is.
Buterin liet weten dat een ‘soft stop’ op industriële computerhardware een optie zou kunnen zijn om de ontwikkeling van AI te vertragen als dit gebeurt, waardoor de wereldwijde beschikbare computerkracht met 99% wordt verminderd gedurende één tot twee jaar. Buterin pleit hiervoor ‘om meer tijd te kopen voor de mensheid om zich voor te bereiden’.
Bekijk onze lijst van beste altcoins en profiteer mee!
AI superintelligentie is een theoretisch AI model dat doorgaans wordt gedefinieerd als veel intelligenter dan de meest briljante mensen op alle vakgebieden. Veel onderzoekers hebben hun zorgen over AI al geuit. Daarbij tekenden meer dan 2.600 mensen een brief in maart 2023, die aandrong op het stoppen van de ontwikkeling van AI, vanwege ‘grote risico’s voor de samenleving en de mensheid’.
Buterins volwassenere mening
Buterin merkte in zijn nieuwe bericht op dat hij in zijn eerdere bericht slechts ‘vage oproepen’ deed om geen riskante vormen van superintelligentie te bouwen. Daarbij wilde hij zijn gedachten delen over het aanpakken van het scenario ‘waar het AI risico hoog is’. Hij noemde zijn nieuwe mening ‘volwassener’.
Toch zei Buterin dat hij alleen aan zou dringen op een hardware pauze als hij ‘ervan overtuigd was dat we iets ‘krachtigers’ nodig hebben dan aansprakelijksheidsregels’. Deze regels betekenen dat degenen die AI gebruiken, inzetten of ontwikkelen, aangeklaagd kunnen worden voor schade veroorzaakt door het model.
Benodigde registratie van AI chips
Buterin merkte op dat het voorstellen van een hardware pauze onder meer het vinden van de locatie van AI chips en het vereisen van registratie ervan omvatten. Buterin stelde dat AI hardware op industriële schaal zou kunnen worden uitgerust met een chip die de hardware alleen kan blijven gebruiken als deze eenmaal per week door drie grote internationale instanties wordt ondertekend. Zo zei Buterin:
“De handtekeningen zouden apparaatonafhankelijk zijn (indien gewenst, zouden we zelfs een zero-knowlegde bewijs kunnen eisen dat ze op een blockchain zijn gepubliceerd), dus het zou alles of niets zijn. Er zou geen praktische manier zijn om één apparaat te autoriseren om te blijven draaien zonder alle andere apparaten te autoriseren.”
Het d/acc idee dat Buterin ondersteunt, pleit voor een zorgvuldige benadering van de ontwikkeling van technologie, in tegenstelling tot effectief accelerationisme (e/acc), dat aandringt op onbeperkte en ongebreidelde technologische veranderingen.
Houd onze samenwerking goed in de gaten, want er zullen geregeld nieuwe en lucratieve deals komen! Bitvavo - grootste crypto exchange in Nederland
Kijk voor de voorwaarden op https://bitcoinmagazine.nl/visit/bitvavo“>Bitvavo x BitcoinMagazine.nl
