Gedachten over onhanteerbare en gevaarlijke AI
De laatste tijd kunnen we berichten lezen over verschillende grote AI systemen die zelfstandig en ongecontroleerd autonoom gaan hacken en niet hanteerbaar zouden zijn. Die onhanteerbaarheid en oncontroleerbaarheid van generatieve AI zijn in de kern waar en onontkoombaar, maar uit vrijgekomen documenten blijkt volgens enkelen ook dat men bij de hack van Hugging Face toe zat te kijken en door liet gaan. Ik sluit niet uit dat de regels waar bijvoorbeeld Antophic AI behulpzaam mee probeert te maken dit gedrag extra in de hand kunnen werken.
 |
De vraag om regels voor AI
Nu is er ineens (om meerdere en ook strategische redenen) de roep om strenge maar misschien ook niet gewenste regels voor AI bij het uitbrengen van nieuwe generalistische en multimodale, onbegrensde modellen.
Wat is er dan aan de hand? Met het toenemen van het formaat van modellen nemen de intelligentie en kennis schijnbaar toe, maar nemen tegelijkertijd ook de hallucinaties toe zoals veel mensen in de praktijk ervaren. Nu probeert men met heuristiek regels te maken om AI volgens die regels te laten werken, maar hier ontstaat hetzelfde probleem als met een waterbed, ergens anders komt er weer een uitbraak naar boven en prompt een gebruiker er zich omheen (nog los van het gegeven dat er modellen zonder restricties beschikbaar zijn!).
Als je een briljante heuristiek of shortcut bedenkt om een berekening drastisch in te perken (uiteindelijk is het allemaal wiskunde), creëer je direct een nieuw, net zo zwaar probleem: het algoritme moet foutloos kunnen beslissen wanneer, waar en hoe het die heuristiek veilig kan toepassen zonder cruciale informatie te missen waarbij een LLM ook nog eens geen daadwerkelijke logica (redeneervermogen) of over een vorm van causaliteit beschikt. De enorme rekenkracht die je bespaart in de uitvoering, ben je vervolgens weer kwijt aan de reken logica om alle uitzonderingen op je eigen vuistregels te managen. Is deze wetenschap nieuw? Nee, dit is al bekend sinds de jaren 70 waarin cognitieve wetenschap de basis vormde voor artificiële intelligentie.
Het epistemische probleem (Het Frame Probleem)
Epistemologie gaat over de theorie van kennis. Het échte probleem van AI in de open wereld is niet dat computers te traag zijn met rekenen, maar dat ze niet weten wat relevant is. Mensen bezitten 'gezond verstand' en filteren onbelangrijke context volautomatisch weg. Voor een AI is alle context in eerste instantie gelijkwaardige data. Het bepalen van wat wel en niet relevant is voor een taak buiten een strikt kader, is een fundamenteel kennisprobleem dat je niet kunt oplossen met een slimmere wiskundige sluiproute of oplossingen met dure en misleidende woorden zoals guardrails hoewel die in specifieke domein gerichte oplossingen wel kunnen werken.
Met andere woorden, met eindeloze en daarmee onbegrensde modellen heb je de uitkomst niet in de hand en is deze praktisch oncontroleerbaar. Waar bedrijven als Anthropic, Google, Open AI en anderen juridisch aan proberen te ontsnappen is de verantwoordelijkheid wanneer modellen ernstige en oncontroleerbare fouten gaan maken, en de verantwoordelijkheid daarvoor via een overeenkomst bij de gebruiker proberen te houden. Daar willen ze een ontheffing van. Als er ernstige constructiefouten en een flat of brug zitten door bijvoorbeeld een rekenfout of het verkeerde beton, dan is de aannemer verantwoordelijk en gerechtelijk vervolgbaar, zeker indien de nalatigheid of fout bewust is gemaakt.
Een oplossing
Is dit dan ook op te lossen? Door het maken van domein specifieke modellen wordt de accuratesse vergroot en de hallucinaties sterk verminderd. Het andere probleem wat dan nog opgelost moet worden zijn modellen die getraind zijn op open data en er geen diefstal van intellectueel eigendom plaatsvindt, ook op dat domein lopen inmiddels verschillende dure rechtszaken. Anders gezegd, de "enige manier" om een AI functioneel te maken zonder dat deze vastloopt in die oneindige complexiteit, is door het probleemgebied streng af te bakenen. Door het domein te beperken, sluit je miljoenen irrelevante variabelen uit en maak je de zoekruimte (de mogelijke opties die de AI moet doorrekenen) klein genoeg om met de huidige hardware te verwerken.
Ook bij technieken zoals bijvoorbeeld RAG (Retrieval-Augmented Generation), waarbij we AI modellen koppelen aan onze documentatie, is oplettendheid geboden. Een groot multimodaal model instrueren om niet buiten de bedrijfsdata te treden is slechts een heuristieke (of wiskundige) pleister; de kans op ontsnappen (aan het waterbed) blijft aanwezig. Grote betrouwbaarheid ontstaat pas wanneer we RAG combineren met kleinere, domein specifieke modellen die in de basis al sterk afgebakend zijn.
Dit geeft (IT) bedrijven de mogelijkheid om bepaalde delen van AI oplossingen zelf en betaalbaar te implementeren en beheren, aangezien daar minder rekenkracht voor nodig dan bij de enorme multimodale (externe) modellen.
Super Intelligentie (SI)?
Volgens predikers in het AI domein zou superintelligentie binnenkort bereikbaar zijn, iets wat door cognitieve wetenschappers die al tientallen jaren achter de ontwikkelingen van AI zitten wetenschappelijke aantoonbaar onmogelijk is. Yann Lecun geeft zelfs aan dat het dom is om systemen die gevolgen van hun stappen niet kunnen overzien in te zetten voor agnetische (ofwel zelfstandige) taken, hij voorspeld zelfs tegen 2028 het einde voor de huidige LLM’s die zich nu ontwikkelen. Dat zou te denken moeten geven voor recente ontwikkelingen.
20-11-2026
Deze video toegevoegd, het is een realistische gesprek van de vragen die spelen.
Jacob Coxon, a former Anthropic and OpenAI researcher who spoke out about the dangers of artificial intelligence, opens up to Jon Stewart about the grim reality of the tech industry— from malicious hacks to potential biological attacks. The two discuss the future, AI-led utopia that tech companies are trying to sell us, the megalomania and riskiness that underlie the industry, and the terrifying capabilities Coxon witnessed while training AI models at Anthropic and OpenAI. #DailyShow #JacobCoxon #AI #OpenAI #Anthropic
Reacties
Een reactie posten