En omfattande kritik har riktats mot AI-forskningsgruppen AI 2027 och deras modeller för utvecklingen av artificiell intelligens. Kritiken fokuserar på betydande metodologiska brister i gruppens prognoser och deras sätt att presentera framtidsscenarier.
Grundläggande problem med modellering
Enligt den detaljerade analysen har AI 2027-gruppen valt ut en mycket smal del av möjligheterna och byggt sina modeller baserat på detta begränsade urval. Problemet ligger inte i att använda en specifik approach, utan i att gruppen inte har kunnat presentera tillräckliga bevis för att deras snäva fokus är det rätta.
Kritiken pekar på att gruppen har misslyckats med att bevisa sin ståndpunkt trots försök att argumentera för sina metoder.
Specifika metodologiska brister
Superexponentiella kurvor
AI 2027-författarna har tilldelat cirka 40 procent sannolikhet till en specifik ”superexponentiell” kurva som garanterat skulle skjuta i höjden mot oändlighet inom några år, även om den nuvarande tidshorisonten mäts i nanosekunder.
Rapporten innehåller mycket få konceptuella argument till förmån för den superexponentiella kurvan. Ett av argumenten stöder författarna inte själva, medan ett annat faktiskt argumenterar emot deras hypotes.
Exponentiella kurvor och hastighetsökningar
Ytterligare cirka 40 procent sannolikhet ges till en ”exponentiell” kurva, men denna är faktiskt också superexponentiell på grund av ytterligare ”mellanliggande hastighetsökningar”.
Modellen för dessa mellanliggande hastighetsökningar stämmer inte överens med gruppens egna uppskattningar för nuvarande AI-hastighetsökningar när den tillämpas på historiska data.
Bristande överensstämmelse med historisk data
De median exponentiella kurvparametrarna stämmer inte överens med kurvan i METR-rapporten och matchar endast löst med historiska data. Den median superexponentiella kurvan, när hastighetsökningar räknas in, har en ännu sämre matchning med historiska data.
En enkel kurva med tre parametrar matchar lika bra med historiska data men ger drastiskt olika förutsägelser för framtida tidshorisonter.
Presentation kontra faktisk modellering
AI 2027-författarna har presenterat en ”superexponentiell” kurva för allmänheten som verkar skilja sig från kurvan de faktiskt använder i sin modellering.
Krav på peer review
Denna episod har lett till förnyade krav på att AI-prognoser och diskussioner om artificiell intelligens bör genomgå traditionell peer review och formell modellering. Kritiker menar att området behöver högre vetenskapliga standarder för att säkerställa trovärdighet och noggrannhet i framtidsscenarier.
Författarnas respons
Författarna till AI 2027-rapporten har gett ett svar på kritiken, men detta har beskrivits som otillräckligt och inte särskilt övertygande av observatörer inom området.
Den detaljerade analysen innehåller ytterligare scenarier och tekniska detaljer som belyser de metodologiska problemen med nuvarande AI-prognosmodeller.