Tehnoloogiaettevõte tutvustab oma parimat toodet ja teatab samas lauses, et ei hakka seda üldsusele müüma. See tundub paradoksina, kuid täpselt nii see just juhtuski. Ja põhjus ei ole kaubanduslik, vaid turvaline.
Turuletulek ilma turuletulekuta
Teisipäeval, 7. aprillil tutvustas Anthropic mudelit Claude Mythos Preview, oma seni võimekaimat mudelit, koos Project Glasswingiga, algatusega kriitilise tarkvara kaitsmiseks. Selle asemel et teha see kõigile kättesaadavaks, andis ettevõte selle kaheteistkümne partneri kätte, nende hulgas Amazon Web Services, Apple, Google, Microsoft, Nvidia, CrowdStrike, JPMorganChase ja Linux Foundation, ning enam kui 40 organisatsioonile, kes haldavad tarkvarainfrastruktuuri. Ettevõte panustab kuni 100 miljonit dollarit kasutuskrediiti ja ütleb, et ei plaani seda üldiselt avaldada.
Aastakümneid peidus olnud vead
Põhjus on see, kui hästi mudel leiab haavatavusi, see tähendab programmeerimisvigu, mida ründaja võiks ära kasutada. Anthropicu sõnul on see juba avastanud tuhandeid tõsiseid vigu peamistes operatsioonisüsteemides ja brauserites, sealhulgas ühe 27-aastase vea OpenBSD-s, süsteemis, mis on tuntud just oma turvalisuse poolest. Sama oskus, mis aitab auke lappida, sobiks ka nende ärakasutamiseks, ja ettevõte kardab, et see satub kellegi kätte, kes seda ettevaatlikult ei kasuta.
Sama võti, millega saab kõiki lukke üle vaadata, võiks neid ka avada.
Hoiatus jõuab pangandusse
Teema on tehnikamaailmast kiiresti väljunud. Bloombergi ja Reutersi andmetel kutsusid USA rahandusminister Scott Bessent ja Föderaalreservi esimees Jerome Powell sel nädalal kokku mitme suure Ameerika panga tippjuhid, et veenduda, et nad on teadlikud sedalaadi mudelite tekitatavatest riskidest. See, et tehisintellekti küberturvalisust käsitletakse finantssüsteemi võimaliku riskina, on iseenesest uudne.
Ettevaatlikkus või eksklusiivne klubi?
Reaktsioonid lähevad lahku. Ühed näevad vastutustundlikku sammu: anda kaitsjatele edumaa, et nad parandaksid vead enne, kui sarnased mudelid on kõigile käeulatuses. Teised esitavad ebameeldivaid küsimusi: kas eraettevõte peaks otsustama, kes pääseb sellisele tehnoloogiale ligi? Mis saab väikestest ja keskmistest ettevõtetest, haiglatest või haldusasutustest, kes nimekirjas ei ole? Ja on neid, kes meenutavad, et ilma sõltumatu hindamiseta on väljastpoolt raske mõõta, kui palju on tegelikku riski.
Avamine ettevaatlikult
Meie arvates tähistab see juhtum uut etappi: kõige arenenumaid mudeleid ei avaldata enam ainult, neid ka hallatakse. See nõuab selgeid reegleid juurdepääsu, läbipaistvuse ja välise kontrolli kohta, mida täna peaaegu pole. Kuid see avab ka tõelise võimaluse: kui tehisintellekt suudab lühikese ajaga leida vigu, mis olid aastakümneid peidus, võib tarkvara, mida me kõik kasutame, muutuda märksa turvalisemaks. Iga organisatsiooni jaoks on praktiline sõnum üle vaadata oma digihügieen juba praegu, sest turvalisuse lat tõuseb kõigi jaoks.