Az emberiség létét fenyegető veszélyek mérsékléséért dolgozó Future of Life Institute (Az Élet Jövője Intézet) által megfogalmazott nyílt levélben, amelyet több százan írtak alá, köztük Stephen Hawking fizikus és Elon Musk, a SpaceX űrprogram igazgatója, arra mutattak rá, hogy a mesterséges intelligencia fejlesztését célzó munkák mellett olyan kutatásokra is szükség van, amelyek biztosítják, hogy az intelligens rendszerek hasznosak az emberiség számára, vagyis azt teszik, amit mi akarunk.
A levélhez kapcsolódó dokumentumban olyan kutatási irányokat is megfogalmaztak, amelyek segítségével maximalizálható a mesterséges intelligencia társadalmi haszna, és minimalizálhatók az esetleges veszélyek.
Mint írták, mára kialakult egy széles tudományos konszenzus arról, hogy a mesterséges intelligencia kutatása jelentős fejlődést mutat, ezért valószínűleg már a közeljövőben is egyre nagyobb hatást lesz képes gyakorolni a társadalomra. A mesterséges intelligencia kifejlesztését célzó kutatások mára komoly eredményeket tudnak felmutatni a beszédfelismerés, a képelemzés, az automata járművek, a fordítás és a robotika területén. A jövőben pedig a mesterséges intelligencia segítségével akár olyan ambiciózus célok is elérhetővé válnak, mint a betegségek legyőzése vagy a szegénység felszámolása.
"A lehetséges előnyök hatalmasak, hiszen minden, amit a civilizáció nyújtani tud, az emberi intelligencia eredménye, így megítélni sem tudjuk, milyen célok lennének elérhetőek, ha az emberi intelligenciát a mesterséges intelligencia által nyújtott eszközökkel lehetne felerősíteni" - olvasható a levélben.
A levél írói ugyanakkor figyelmeztettek arra, hogy pontosan a mesterséges intelligenciában rejlő hatalmas lehetőségek miatt fontos, hogy azt is kutassuk: hogyan élvezhetjük az új technológiák hasznát anélkül, hogy a lehetséges csapdáiba beleesnénk.
Az intézet által megfogalmazott rövid távú kutatási célok között szerepel például a mesterséges intelligencia gazdasági hatásainak vizsgálata, hogy az intelligens rendszerek ne tegyenek munkanélkülivé milliókat. Hosszú távon pedig, ahogy az intelligens rendszereknek átadjuk az irányítást egy-egy infrastruktúra felett, gondoskodni kell arról, hogy meghibásodás esetén megfelelő biztosítékokkal a minimálisra lehessen csökkenteni a kárt.
Stephen Hawking egy decemberi interjúban arról beszélt, hogy egy korlátok nélküli mesterséges intelligencia létezéséből fakadó veszélyekre csakis a rendszer önmaga tudna megfelelő válaszokat adni, az ember számára az ilyen problémák megoldhatatlanok lennének. A világhírű fizikus szerint az önmagát autonóm módon továbbfejlesztő mesterséges intelligencia ezért katasztrofális következményekkel járhatna, akár az emberi faj végét is jelenthetné.