Vísindamenn og verkfræðingar hafa varað um hættur af gervigreind

Opið bréf þar sem hann kallaði vandaða meðferð á gervigreind, hefur undirritað fjölda fólks, þar á meðal fremstu vísindamönnum á þessu sviði. Höfundarnir telja að AI ætti ekki að ná utan stjórn okkar.

Ótta tengjast gervigreind

Kvikmyndir eins og "The Terminator", gefa okkur glögga mynd af því sem gerist þegar vélmenni er ekki lengur í okkar lið. Því ótta margra, þar á meðal vísindamenn, getur ekki talist ósanngjörn. Í ljósi þess að hraða þróun á tækni tölva, við erum alltaf nær þeim punkti þegar þú þarft að takast á við þessi mál.

Í desember, Steven Hawking hefur opnað nýja bylgja af umræðum um þetta efni. Í ljósi þess að geta Hawking er að miðla veltur á háþróaðri tölvutækni, það getur varla verið taldir meðal Luddites, en hugur hans er viss um að laða að athygli.

Bréfið var hafin af Institute for framhaldslíf - ". Draga úr tilvistarlegum áhættu frammi mannkynið" frjálsum samtökum sem lýsir markmiðum sínum

Hvað er það um stafinn

Í opnu bréfi bendir á að það er mögulegt að þessi svæði til að fara yfir þröskuld sem skilur rannsóknir á rannsóknarstofu og þróun efnahagslega dýrmætur tækni, þótt jafnvel minniháttar endurbætur á árangri eru þess virði mikið af peningum. Þetta veldur aukningu á flæði fjárfestinga í rannsókninni. Það er nú að verða ljóst að rannsókn á gervigreind hefur verið jafnt og þétt gengur, og áhrif hennar á samfélagið er líklegt til að aukast. Ávinningurinn eru gífurleg, eins og allt sem siðmenning hefur að bjóða, það er vara af the mannlegur hugur. Við erum ekki að spá hvað við getum náð, ef við orðið notað gervigreind, en útrýmingu sjúkdómsins og fátækt er ekki eitthvað óskiljanlegt. Í ljósi þess mikla möguleika gervigreind, það er mikilvægt að skilja hvernig á að nýta það, forðast hugsanlega gildra.

Höfundarnir bæta við að gervigreind kerfi okkar ætti að gera bara það sem við viljum frá þeim, og ekki að koma skaða til fólks á sama tíma. Í bréfinu setti einnig fram forgangssvið rannsókna, sem höfundar telja að hægt að koma hámarks árangri til samfélagsins.

Kannski ættir þú að taka þátt?

Hver sem er getur undirrita bréfið, og þúsundir manna hafa þegar gert það. Þó að margir undirritað eru venjulegt fólk, en nöfn eins og Elon Musk sjálfur Hawking, eru auðveldlega þekkta. Mörg önnur nöfn á listanum - leiðandi vísindamenn á sviði upplýsingatækni og heimspeki, þar á meðal IBM lið.