Prominente wiskundigen waarschuwen voor gevaren van AI: 'OpenAI is totaal niet open over wat ze precies hebben gedaan'

In dit artikel:

Wiskundigen luiden de alarmbel over de groeiende afhankelijkheid van commerciële AI-tools in hun vakgebied. Zij vrezen dat strikt gesloten, commerciële modellen waarvan de interne werking en trainingsdata niet inzichtelijk zijn, de controleerbaarheid en reproduceerbaarheid van wiskundig onderzoek ondermijnen. Dit kan ertoe leiden dat fouten of onverklaarde aannames ongemerkt in bewijzen en berekeningen sluipen, en dat onderzoekers en studenten te veel vertrouwen op output die zich niet laat natrekken. Tegelijk erkennen onderzoekers dat AI praktische voordelen biedt, bijvoorbeeld voor rekenwerk en inspiratie, maar ze benadrukken dat die toepassingen gepaard moeten gaan met transparantie, onafhankelijke toetsing en het gebruik van verifieerbare methoden. Als tegenreactie pleiten critici voor meer inzet op open-source modellen, formele bewijsassistenten (zoals Lean, Coq of Isabelle), strengere peerreview en audits van AI-systemen zodat wiskundige betrouwbaarheid gewaarborgd blijft. Het stuk is geschreven door een wetenschapsredacteur van de Volkskrant.