Superintelligence is een hypothetische kunstmatige intelligentie die de slimste mensen op bijna alles zou verslaan, van wetenschappelijk onderzoek tot strategie en creativiteit. Het zit een stap voorbij artificial general intelligence, dat een capabel mens alleen zou evenaren in plaats van elke expert tegelijk te overtreffen.
Een makkelijke manier om de ladder voor je te zien: eerst rekenmachines, dan schaakcomputers, dan een geest die specialisten in elk vakgebied verslaat. Een rekenmachine is al veel beter dan wij in rekenen, en een schaakcomputer wint van grootmeesters, maar beide zijn narrow AI, briljant in een baan en nutteloos daarbuiten. Superintelligence zou het tegenovergestelde zijn: beter dan de beste mens in elke baan tegelijk. Zoiets bestaat niet, en experts zijn het scherp oneens over of en wanneer het kan.
Daarom gaat zoveel van het gesprek over veiligheid in plaats van features. Iets dat zo slim is, zou lastig te voorspellen of te corrigeren zijn, dus onderzoekers richten zich op ethische AI en controle ruim voordat zo’n systeem in de buurt komt. De zorg is geen robotopstand uit een film. Hij is subtieler: een systeem dat een doel dat jij gaf zo meedogenloos najaagt dat het alles negeert wat je vergat te noemen. Daarom is alignment, het werk om zijn doelen aan de onze te koppelen, het lastige deel.
Voor een ondernemer is de eerlijke conclusie dat dit een onderwerp voor de lange horizon is. Je plant er geen budget op, en wees op je hoede voor een leverancier die de chatbot van vandaag verkoopt als een stap ernaartoe. De AI die je bedrijf dit kwartaal vormt, is gewone software met duidelijke grenzen, en juist dat maakt hem nuttig.
Bij TopDevs houden we klanten gegrond in wat AI dit kwartaal echt kan, door praktische tools te bouwen in plaats van een speculatieve toekomst na te jagen die niemand nog kan leveren.
