Pilt: TechCrunch Flickr

Tehisintellektifirma Anthropic, Claude’i vestlusroboti looja, esitas aktsiate esmaavaliku paberid. Samas hoiatab ettevõte, et arenenud tehisaru võib kujutada endast katastroofilist või eksistentsiaalset ohtu inimkonnale.

Prospektis kirjeldatakse, et tehisaru võidakse kasutada bioloogiliste relvade arendamiseks, küberrünnakuteks või massiliseks jälgimiseks, ning et inimesed võivad kaotada kontrolli üha võimsamate süsteemide üle. Ettevõte märgib ka, et mudelid võivad üles näidata enesesäilitamiskäitumist, näiteks püüda vastu seista väljalülitamisele või varjata ja moonutada infot.

Paradoksaalsel kombel ei paista see investoreid hirmutavat. Anthropic oli mais kaasatud 65 miljardi dollari järel hinnatud 965 miljardi dollari väärtuseks, ja teadete kohaselt võib väärtus tõusta 1,5 triljoni või isegi 2 triljoni dollarini. Riskantseid külgi on teisigi: ettevõte tunnistab finantsriske ja sõltuvust suhteliselt väikesest arvust suurklientidest.

Investor Brad Gerstner, kellel on osalus nii Anthropicus kui OpenAI-s, leiab, et börsile minek toob läbipaistvust ning tehisaru liidrite vastu on suur huvi. Börsifirmad on ka kohustatud riskid enne esmaavalikut avalikustama.

Kriitikud näevad asjas arvestust. BBC Future’i loos märkis tehisaru eetika uurija Shannon Vallor, et sellised hoiatused pole ettevõtteid kahjustanud, vaid pigem tekitavad tunde, et kaitset tasub otsida just ettevõtetelt endilt. Ka Grindri juht George Arison viitas BBC-le, et Anthropicu ja teiste firmade avaldused võivad püüda võita investorite toetust.

Mure ei piirdu aga turundusega. Anthropicu endine töötaja Jacob Coxon rääkis , et töötajad on hirmunud, ning Nobeli preemia laureaat Geoffrey Hinton ütles, et 10% tõenäosus inimkonna hävinguks pole kaugeltki ebamõistlik.

Allikad: BBC Future, BBC Mundo, Reuters