Új hozzászólás Aktív témák

• #33 ddekany veterán moleculez #30

  Új Válasz 2023-03-28 01:18:05 #33

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz moleculez #30 üzenetére

  "a Skynet nem jön mostanában: a motorháztető alatt ez mind matematika"

  Fenti részt nem értem. A mondat két fele hogyan függ össze? Mint írod is, nem tudjuk lekövetni érdemben, túl komplex. (De amúgy a tárgyalt rendszereknél direkt van benne random is.) Amúgy nem gondolom, hogy jön a Skynet. Valami társadalmi/gazdasági világégés a túl gyors változás, és tömeges feleslegessé válás miatt akkor már reálisabb.

  Amúgy, az egy dolog, hogy van arra komoly törekvés, hogy megértsük jobban a belső működést. De aztán ott a másik tényező, hogy tipikus szemlélet, hogy aki gyorsabb, az nyer, és valaki olyan lesz a nyertes, aki mert nagyot kockáztatni. Az utóbbit valló vezetők nem nagyon fognak arra várni, hogy az előbbi tudós/mérnök társaság lépést tartson az AI képességeivel. Szóval ha tartják még jó pár évig a mostani fejlődési üzemet, lehet itt még nemulass rendesen...

  Meg aztán, az egész NN-es dolog egy lényeges erénye, hogy nem kell megérteni, hogyan csinálja. Ezért lehet megvalósítani olyan dolgokat vele, amiket hagyományosan leprogramozni, az ember értelmi képességei miatt, nem reális. Azért én arra számítanék, hogy max. nagyon nagy vonalakban fogunk érteni egy sokmilliárd vagy akár billió paraméteres AI-t, és sosem lehetsz benne biztos, hogy néha nem produkál-e valami meglepőt.

• #31 jonnyjoker01 veterán moleculez #30

  Új Válasz 2023-03-27 13:11:33 #31

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  jonnyjoker01

  veterán

  válasz moleculez #30 üzenetére

  Annak nem látom lehetőségét hogy atombombákat bármikor is rábízzanak AI-ra, de annak igen, hogy ahogy egyre javul ez a technológia, nagyobb cégek, kormányok elkezdjék beintegrálni a rendszereik működésébe. Ennek addig nem kéne bekövetkeznie amíg csak egy blackboxként ismerjük a technológiát (lehet nem is fog, lehet megfelelően fogjuk kezelni).

  Az hogy ez mind matematika, nem nagyon nyugtat meg, mert csak annyi kell a rossz recepthez, hogy kritikus rendszerek működését rábízzuk egy jövőbeli fejlettebb iterációjára. Nem kell hogy "öntudatra ébredjen", elég ha csak nem működik tökéletesen ami utólag derül ki, esetleg simán hibázik vagy az extra emberileg hozzáadott dolgok miatt (pl "agency and inherent motivation" ) furcsa döntéseket hoz.

  De amúgy igazad van, az esti AI rabbithole agymenésemből lenyugodtam. Nem hiszem, hogy emberek engednék a kritikus rendszerekben partnerként kezelni, hogyha nincs 100%-ig bizonyítva, biztosítva hogy tökéletesen működik, vagy minimum jobban, mint a most emberek által kezelt és készített rendszerek. Meg egyébként is, valószínűleg egyenlőre megállunk annál, hogy external toolként használjuk, úgyhogy ez a jövő zenéje.

Új hozzászólás Aktív témák