OpenAI heeft zojuist zijn nieuwste AI-model, GPT-4, uitgebracht, dat prestaties op menselijk niveau laat zien op verschillende professionele en academische benchmarks.

GPT-4 is een groot multimodaal model dat beeld- en tekstinvoer kan accepteren en tekstuitvoer kan genereren.

In dit artikel zullen we kijken naar de mogelijkheden, beperkingen en risico’s van GPT-4.

Tegen het einde zult u een beter begrip hebben van de potentiële impact van GPT-4 en waartoe het wel en niet in staat is.

Capaciteiten

De mogelijkheden van GPT-4 zijn een verbetering ten opzichte van het vorige model, GPT-3.5, wat betreft betrouwbaarheid, creativiteit en verwerking van genuanceerde instructies.

OpenAI testte het model op verschillende benchmarks, waaronder proefexamens ontworpen voor mensen, en ontdekte dat GPT-4 beter presteerde dan bestaande grote taalmodellen.

Het werkt ook goed in andere talen dan Engels, inclusief talen met weinig middelen zoals Lets, Welsh en Swahili.

Visuele ingangen

GPT-4 kan zowel tekst als afbeeldingen als invoer accepteren, waardoor het in staat is tekstuitvoer te genereren op basis van invoer bestaande uit zowel tekst als afbeeldingen.

Hoewel de visuele invoermogelijkheden van het model zich nog in de onderzoekspreviewfase bevinden, heeft het vergelijkbare mogelijkheden laten zien als invoer met alleen tekst.

Richting

OpenAI heeft gewerkt aan elk aspect van het plan dat wordt geschetst in de publicatie over het definiëren van AI-gedrag, inclusief richting.

Ontwikkelaars kunnen nu de stijl en taak van hun AI voorschrijven door aanwijzingen in het “systeem”-bericht te beschrijven.

Gebruikers van de API kunnen hun gebruikerservaring binnen bepaalde grenzen aanpassen, waardoor aanzienlijke aanpassingen mogelijk zijn.

beperkingen

GPT-4 is niet perfect en heeft dezelfde beperkingen als eerdere GPT-modellen.

Het kan nog steeds feiten “hallucineren” en redeneerfouten maken, dus voorzichtigheid is geboden bij het gebruik van de resultaten van taalmodellen, vooral in contexten met een hoog risico.

GPT-4 is niet op de hoogte van gebeurtenissen na september 2021, waardoor het eenvoudige redeneerfouten kan maken en valse beweringen als waar kan accepteren.

Het kan ook mislukken om menselijke problemen aan te pakken, zoals het introduceren van beveiligingsproblemen in de code.

GPT-4 kan veilige maar onjuiste voorspellingen doen en verifieert deze niet altijd zorgvuldig.

Interessant is dat het basismodel goed is in het voorspellen van de nauwkeurigheid van hun reacties, maar dit vermogen wordt verminderd na verdere training.

Risico’s en maatregelen

Hoewel de mogelijkheden van GPT-4 belangrijk zijn, brengt het nieuwe risico’s met zich mee, zoals het genereren van schadelijk advies, slechte code of onnauwkeurige informatie.

OpenAI heeft gewerkt aan het beperken van deze risico’s, door samen te werken met meer dan 50 experts om het model vijandig te testen en aanvullende gegevens te verzamelen om het vermogen van GPT-4 om gevaarlijke verzoeken af ​​te wijzen te verbeteren.

Als gevolg hiervan heeft OpenAI veel verbeteringen aangebracht aan GPT-4 om het veiliger te maken dan GPT-3.5.

GPT-4 geeft 82% minder kans om ongepaste inhoud te geven dan de vorige versie en volgt beter het beleid over gevoelige onderwerpen zoals medisch advies en zelfbeschadiging.

Hoewel OpenAI het model beter bestand heeft gemaakt tegen slecht gedrag, is het nog steeds mogelijk om inhoud te genereren die in strijd is met de gebruiksregels.

GPT-4 kan nuttig of schadelijk zijn voor de samenleving, zegt OpenAI, dus werkt het samen met andere onderzoekers om de mogelijke gevolgen te begrijpen.

Trainingsproces

Net als eerdere GPT-modellen, werd het GPT-4-basismodel getraind om het volgende woord in een document te voorspellen met behulp van openbaar beschikbare gegevens en gegevens waarvoor een licentie is verkregen van OpenAI.

Door het gedrag van het model aan te passen met behulp van versterkend leren met menselijke feedback (RLHF), wordt het afgestemd op de intentie van de gebruiker binnen de rails.

Voorspelbare schaalvergroting

Een belangrijke focus van het GPT-4-project was het bouwen van een deep learning-stack die voorspelbaar schaalbaar is.

OpenAI heeft een infrastructuur en optimalisatie ontwikkeld met voorspelbaar gedrag op verschillende schalen en kan het uiteindelijke verlies van GPT-4 tijdens training nauwkeurig voorspellen.

beschikbaarheid

Microsoft bevestigt dat de nieuwe Bing-zoekervaring nu draait op GPT-4.

Hoewel het een gebruikslimiet heeft, heb je ook toegang tot GPT-4 met een ChatGPT Plus-abonnement.

OpenAI kan de gebruikslimiet aanpassen op basis van vraag en systeemprestaties. Het bedrijf overweegt nog een abonnementsniveau toe te voegen om meer GPT-4-gebruik mogelijk te maken.

Om toegang te krijgen tot de GPT-4 API, moet u op de wachtlijst staan.

conclusie

De creatie van GPT-4 markeert een belangrijke mijlpaal in de inspanningen van OpenAI om deep learning uit te breiden.

Hoewel onvolmaakt, heeft het prestaties op menselijk niveau laten zien op verschillende academische en professionele benchmarks, waardoor het een krachtig hulpmiddel is.

Voorzichtigheid is echter geboden bij het gebruik van taalmodelresultaten in contexten met een hoog risico.

OpenAI heeft gewerkt aan het beperken van risico’s en het bouwen van een diepe leerstack die voorspelbaar opwarmt, wat van cruciaal belang zal zijn voor toekomstige AI-systemen.

Uitgelichte afbeelding: Muhammad S0hail/Shutterstock

bron: OpenAI

Source link