Ray Kurzweil, een vooraanstaand futurist en technisch directeur bij Google, weerlegde de brief waarin hij opriep tot een pauze in het AI-onderzoek, en gaf redenen waarom het voorstel onpraktisch is en medische vooruitgang en innovaties die de mensheid ten goede komen, ontneemt.

Internationale brief om de ontwikkeling van AI te stoppen

Een open brief ondertekend door wetenschappers en beroemdheden van over de hele wereld (gepubliceerd op FutureOfLife.org) riep op tot een volledige pauze in de ontwikkeling van AI die krachtiger is dan GPT-4, de nieuwste versie gemaakt door OpenAI.

Naast het stoppen van de ontwikkeling van AI, riepen ze ook op tot de ontwikkeling van beveiligingsprotocollen onder toezicht van onafhankelijke externe experts.

Enkele opmerkingen van de auteurs van de open brief:

AI vormt een groot risico. AI-ontwikkeling mag pas doorgaan als de nuttige toepassingen van de technologie zijn opgesomd, en gerechtvaardigde AI mag alleen doorgaan als “wij” (de duizenden ondertekenaars van de brief) er zeker van zijn dat de risico’s van AI beheersbaar zijn AI-ontwikkelaars worden opgeroepen om samen te werken met beleidsmakers om AI-governancesystemen te ontwikkelen die bestaan ​​uit regelgevende instanties. De ontwikkeling van watermerktechnologieën om inhoud die met AI is gemaakt te helpen identificeren en om de verspreiding van de technologie te beheersen. Een systeem voor het toekennen van aansprakelijkheid voor schade veroorzaakt door AI Bouw instellingen om verstoringen veroorzaakt door AI-technologie op te vangen

De brief lijkt te komen vanuit het standpunt dat AI-technologie gecentraliseerd is en kan worden tegengehouden door de weinige organisaties die de technologie beheersen. Maar AI is niet exclusief in handen van overheden, onderzoeksinstituten en bedrijven.

AI is nu een open source, gedecentraliseerde technologie, ontwikkeld door duizenden individuen op een wereldwijde samenwerkingsschaal.

Ray Kurzweil: futurist, auteur en technisch directeur bij Google

Ray Kurzweil ontwerpt sinds de jaren zestig software en machines gericht op kunstmatige intelligentie, heeft veel populaire boeken over dit onderwerp geschreven en staat bekend om zijn voorspellingen over de toekomst die meestal correct zijn.

Van de 147 voorspellingen die hij in 2009 deed over het leven, waren er slechts drie, in totaal 2%, fout.

Een van zijn voorspellingen in de jaren negentig was dat veel fysieke media, zoals boeken, aan populariteit zouden verliezen als ze gedigitaliseerd zouden worden. In een tijd in de jaren 90, toen computers groot en omvangrijk waren, voorspelde hij dat computers tegen 2009 klein genoeg zouden zijn om te dragen, wat waar bleek te zijn (How My Predictions Are Going – 2010 PDF).

De recente voorspellingen van Ray Kurzweil richten zich op al het goede dat AI zal brengen, vooral medische en wetenschappelijke vooruitgang.

Kurzweil focust ook op de ethiek van AI.

In 2017 was hij een van de deelnemers (samen met OpenAI-CEO Sam Altman) die een open brief opstelde die bekend staat als de Asilomar AI-principes die ook werden gepubliceerd op de Future of Life-website, richtlijnen voor de veilige en ethische ontwikkeling van kunstmatige-intelligentietechnologieën.

Een van de principes die hij hielp creëren:

“Het doel van AI-onderzoek moet zijn om geen ongerichte intelligentie te creëren, maar nuttige intelligentie. Investeringen in AI moeten gepaard gaan met onderzoeksfinanciering om het nuttige gebruik ervan te waarborgen. Er moet een constructieve en gezonde uitwisseling zijn tussen AI-onderzoekers en beleid makers Geavanceerde AI zou een ingrijpende verandering in de geschiedenis van het leven op aarde kunnen betekenen en moet met de juiste zorg en middelen worden gepland en beheerd Superintelligentie mag alleen worden ontwikkeld in dienst van breed gedeelde ethische idealen en ten behoeve van de hele mensheid in plaats van een staat of organisatie.”

Het antwoord van Kurzweil op de open brief waarin hij opriep tot een pauze in de ontwikkeling van AI kwam voort uit een leven lang innovatieve technologie in termen van al het goede dat het kan doen voor de mensheid en de natuurlijke wereld.

Zijn reactie concentreerde zich op drie hoofdpunten:

De roep om een ​​pauze is te vaag om praktisch te zijn. Alle naties moeten akkoord gaan met de pauze of de doelstellingen worden vanaf het begin verslagen. Een pauze in de ontwikkeling negeert voordelen zoals het identificeren van genezingen voor ziekten.

Te vaag om praktisch te zijn

Zijn eerste punt over de kaart is dat het te vaag is omdat het een breuk in AI veroorzaakt die krachtiger is dan GPT-4, dat ervan uitgaat dat GPT-4 het enige type AI is.

Kurzweil schreef:

“Wat betreft de open brief om onderzoek naar AI ‘krachtiger dan GPT-4’ te ‘pauzeren’, dit criterium is te vaag om praktisch te zijn”.

Naties zullen afzien van de pauze

Zijn tweede punt is dat de in de brief geschetste eisen alleen kunnen werken als alle onderzoekers over de hele wereld vrijwillig meewerken.

Elke natie die weigert te ondertekenen, zal de overhand hebben, wat waarschijnlijk zal gebeuren.

Hij schrijft:

“En het voorstel kampt met een ernstig coördinatieprobleem: degenen die instemmen met een pauze kunnen ver achterblijven bij bedrijven of landen die het er niet mee eens zijn.”

Dit punt maakt duidelijk dat het doel van een volledige pauze niet haalbaar is, omdat naties geen enkel voordeel zullen afstaan, en bovendien is AI gedemocratiseerd en open source, in handen van individuen over de hele wereld.

AI levert aanzienlijke voordelen op voor AI

Er zijn hoofdartikelen geweest die AI afwezen als zeer weinig voordeel voor de samenleving, met het argument dat het verhogen van de productiviteit van werknemers niet voldoende is om de risico’s te rechtvaardigen waar ze bang voor zijn.

Het laatste punt van Kurzweil is dat de open brief waarin wordt opgeroepen tot een pauze in de ontwikkeling van AI volledig voorbijgaat aan al het goede dat AI kan doen.

Hij legt uit:

“Er zijn enorme voordelen verbonden aan het bevorderen van AI op kritieke gebieden zoals geneeskunde en gezondheid, onderwijs, het zoeken naar hernieuwbare energiebronnen om fossiele brandstoffen te vervangen, en vele andere gebieden.

… er is meer nuance nodig als we de diepgaande voordelen van AI voor gezondheid en productiviteit willen ontsluiten, terwijl we de echte gevaren vermijden.”

Gevaren, angst voor het onbekende en voordelen voor de mensheid

Kurzweil benadrukt hoe AI de samenleving ten goede kan komen. Zijn punt dat er geen manier is om de AI te pauzeren, is een solide punt.

Zijn uitleg van AI benadrukt de diepgaande voordelen voor de mensheid die inherent zijn aan AI.

Zou het kunnen dat het implementeren van OpenAI’s AI als een chatbot AI bagatelliseert en het voordeel voor de mensheid overschaduwt, terwijl mensen worden afgeschrikt die niet begrijpen hoe generatieve AI werkt?

Uitgelichte afbeelding door Shutterstock/Iurii Motov

Source link