Hoogtepunten
- GPT-4 is een verbetering ten opzichte van het vorige model, GPT-3.5, in termen van betrouwbaarheid, creativiteit en verwerking van genuanceerde instructies.
- OpenAI heeft veel wijzigingen aangebracht in GPT-4 om het veiliger te maken dan GPT-3.5 en heeft gewerkt aan het beperken van risico’s.
- GPT-4 is niet op de hoogte van gebeurtenissen na september 2021, waardoor het eenvoudige redeneerfouten kan maken.
OpenAI heeft zojuist zijn nieuwste AI-model, GPT-4, uitgebracht, dat prestaties op menselijk niveau laat zien in verschillende professionele en academische benchmarks. GPT-4 is een groot multimodaal model dat afbeeldingen en tekst kan invoeren en tekstuitvoer kan genereren. In dit artikel bekijken we de mogelijkheden en beperkingen van GPT-4, en de risico’s van het gebruik ervan. Aan het eind zult u de potentiële impact van GPT-4 en de mogelijkheden en onmogelijkheden ervan beter begrijpen.
Mogelijkheden
De mogelijkheden van GPT-4 zijn een verbetering ten opzichte van het vorige model, GPT-3.5, in termen van betrouwbaarheid, creativiteit en verwerking van genuanceerde instructies.
OpenAI heeft het model getest op verschillende benchmarks, waaronder gesimuleerde examens voor mensen, en heeft vastgesteld dat GPT-4 beter presteert dan bestaande grote taalmodellen.
Het presteert ook goed in andere talen dan het Engels, waaronder talen met weinig hulpbronnen zoals Lets, Welsh en Swahili.
Visuele invoer
GPT-4 kan zowel tekst als afbeeldingen als invoer accepteren, waardoor het in staat is tekstuitvoer te genereren op basis van invoer die zowel uit tekst als afbeeldingen bestaat.
Hoewel de visuele invoer van het model zich nog in het onderzoeksstadium bevindt, zijn de mogelijkheden vergelijkbaar met die van invoer met alleen tekst.
Bestuurbaarheid
OpenAI heeft gewerkt aan elk aspect van het plan dat werd geschetst in het bericht over het definiëren van het gedrag van AI’s, waaronder bestuurbaarheid.
Ontwikkelaars kunnen nu de stijl en taak van hun AI voorschrijven door de richtingen te beschrijven in het “systeem”-bericht.
API-gebruikers kunnen de ervaring van hun gebruikers binnen grenzen aanpassen, waardoor aanzienlijke personalisering mogelijk wordt.
Beperkingen
GPT-4 is niet perfect en heeft dezelfde beperkingen als eerdere GPT-modellen.
Het kan nog steeds feiten “hallucineren” en redeneerfouten maken, dus voorzichtigheid is geboden bij het gebruik van de resultaten van het taalmodel, met name in een context waarin veel op het spel staat.
GPT-4 is niet op de hoogte van gebeurtenissen na september 2021, waardoor het eenvoudige redeneerfouten kan maken en onjuiste beweringen als waar kan aanvaarden.
Het kan ook falen bij uitdagende problemen zoals mensen, zoals het introduceren van beveiligingsproblemen in zijn code.
GPT-4 kan zelfverzekerde maar onjuiste voorspellingen doen en controleert zijn werk niet altijd zorgvuldig.
Interessant is dat het basismodel goed is in het voorspellen van de nauwkeurigheid van zijn antwoorden, maar dat dit vermogen afneemt na post-training.
Risico’s en beperkingen
Hoewel de mogelijkheden van GPT-4 aanzienlijk zijn, brengt het nieuwe risico’s met zich mee, zoals het genereren van schadelijk advies, buggy code of onnauwkeurige informatie.
OpenAI heeft gewerkt aan het beperken van deze risico’s door samen te werken met meer dan 50 experts om het model op tegenspraak te testen en door extra gegevens te verzamelen om GPT-4 beter in staat te stellen gevaarlijke verzoeken te weigeren.
Als gevolg daarvan heeft OpenAI veel verbeteringen aangebracht in GPT-4 om het veiliger te maken dan GPT-3.5.
GPT-4 geeft 82% minder vaak ongepaste inhoud dan de vorige versie, en volgt beter het beleid met betrekking tot gevoelige onderwerpen zoals medisch advies en zelfbeschadiging.
Hoewel OpenAI het model beter bestand heeft gemaakt tegen slecht gedrag, is het genereren van inhoud die tegen de gebruiksregels ingaat nog steeds mogelijk.
GPT-4 kan nuttig of schadelijk zijn voor de samenleving, zegt OpenAI, dus het werkt samen met andere onderzoekers om de mogelijke gevolgen te begrijpen.
Trainingsproces
Net als eerdere GPT-modellen werd het GPT-4 basismodel getraind om het volgende woord in een document te voorspellen met behulp van openbaar beschikbare gegevens en gegevens onder licentie van OpenAI.
Door het gedrag van het model nauwkeurig af te stemmen met behulp van leren van versterking met menselijke feedback (RLHF) wordt het afgestemd op de bedoeling van de gebruiker binnen vangrails.
Voorspelbaar schalen
Een belangrijke focus van het GPT-4 project was het bouwen van een deep learning stack die voorspelbaar schaalt
OpenAI heeft infrastructuur en optimalisatie ontwikkeld met voorspelbaar gedrag over meerdere schalen en kan het uiteindelijke verlies van GPT-4 tijdens de training nauwkeurig voorspellen.
Beschikbaarheid
Microsoft bevestigt dat de nieuwe Bing-zoekervaring nu draait op GPT-4.
Hoewel het een gebruikslimiet heeft, hebt u ook toegang tot GPT-4 met een ChatGPT Plus-abonnement.
OpenAI kan de gebruikslimiet aanpassen op basis van de vraag en de systeemprestaties. Het bedrijf overweegt nog een abonnement toe te voegen om meer GPT-4-gebruik mogelijk te maken.
Om toegang te krijgen tot de GPT-4 API moet u zich inschrijven op de wachtlijst.
Conclusie
De creatie van GPT-4 is een belangrijke mijlpaal in de inspanningen van OpenAI om deep learning op te schalen.
Hoewel hij niet perfect is, heeft hij op verschillende academische en professionele benchmarks prestaties van menselijk niveau laten zien, waardoor het een krachtig hulpmiddel is.
Voorzichtigheid is echter geboden bij het gebruik van de resultaten van taalmodellen in een context waarin hoge eisen worden gesteld.
OpenAI heeft gewerkt aan het beperken van risico’s en het bouwen van een deep learning-stack die voorspelbaar schaalt, wat cruciaal is voor toekomstige AI-systemen.