En hel branche skræmmer sig selv med gætteri om undergang

Bryan Cantrill kritiserer en tidligere Anthropic-medarbejders påstand om, at AI kan dræbe os alle, fordi argumenterne er tynde. Han mener, at eksperter misbruger offentlighedens tillid, når de råber vagt i gevær uden beviser. Han har også udtrykt tvivl om biovåben-frygten i en podcast og opfordrer til forsigtighed.

Bryan Cantrill går i rette med den frygt for kunstig intelligens (AI), der er vokset frem i hans egen branche. AI er computerprogrammer, der kan løse opgaver, som ellers kræver menneskelig intelligens. Anledningen er et tweet fra Jacob Coxon. Et tweet er en kort besked på sociale medier. Coxon er tidligere ansat hos virksomheden Anthropic, som laver AI. I tweetet bekræfter Coxon, at mange forskere i Anthropic mener, at AI kan dræbe os alle inden årtiets udgang. Forskere er personer, der undersøger og udvikler viden.

Cantrills indvending er, at begrundelserne er tynde. Coxon nævner hacking af kritisk infrastruktur og biovåben på udryddelsesniveau, men uden at uddybe dem. Hacking er ulovlig adgang til computersystemer. Kritisk infrastruktur er samfundsvigtige systemer som vand, strøm og hospitaler. Biovåben er våben, der bruger sygdomsfremkaldende organismer. Udryddelsesniveau betyder, at de kan udslette menneskeheden. Ifølge Cantrill er Coxon hverken ekspert i kritisk infrastruktur, i biovåben eller i udryddelse. En ekspert har dyb viden på et område. Cantrill kalder påstandene for »ghoulish« — makabre eller uhyggelige. Han understreger, at det ikke er offentlighedens ansvar at gennemskue dem. Store sprogmodeller, på engelsk large language models, forkortet LLM'er, er en type AI, der kan skrive og svare på tekst. Han skriver: »We should not expect the public to understand LLMs, critical infrastructure, bioweapons, extinction biology, etc. — that burden must lie with those making the claim.« På dansk betyder citatet: Vi bør ikke forvente, at offentligheden forstår store sprogmodeller, kritisk infrastruktur, biovåben, udryddelsesbiologi osv. — den byrde må ligge hos dem, der fremsætter påstanden. Det minder om at råbe »broen styrter sammen«, uden at vise beregningerne.

Cantrill bygger sit argument på en personlig erfaring. Som ung forårsagede hans egne fejl unødig panik blandt mindre tekniske kolleger. Lektionen er, at fagfolk gennem deres ekspertise har offentlighedens tillid i hænderne. Offentlighedens tillid er den tillid, almindelige mennesker har til fagfolk. Den tillid må ikke misbruges. Han skriver: »It is incumbent upon us to be circumspect in our claims — and maximally so when raising the alarm.« »Circumspect« betyder varsom og eftertænksom. På dansk: Det påhviler os at være varsomme med vores påstande — og i højeste grad, når vi slår alarm.

Han har også luftet tvivlen om biovåben i podcasten Oxide and Friends. En podcast er en lydudsendelse, man kan høre online. Simon Willison gengiver den i et blogindlæg. Et blogindlæg er et skriftligt indlæg på en hjemmeside. Her siger Cantrill, at det er let at blive grebet af frygt, når man selv fylder detaljerne ind. Han siger: »I really think we need to be careful because it's so easy to be overcome with fear...« På dansk: Jeg synes virkelig, vi skal være forsigtige, fordi det er så let at blive overvældet af frygt. Og mere direkte: »The bioweapon thing just gets under my fingernails because it leaves so much to the imagination that we insert with fear.« På dansk: Det med biovåben går mig på nerverne, fordi det overlader så meget til fantasien, at vi selv indsætter frygten.