Új hozzászólás Aktív témák

• #16 ddekany veterán azbest #15

  Új Válasz 2024-05-29 02:03:11 #16

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz azbest #15 üzenetére

  Van ez, hogy mikor kiválasztod a következő tokent, akkor ott több lehetőség közül választasz, és mindegyiknek van egy %-os esélye, hogy az a következő. (0 hőmérséklet beállításnál mindig a legvalószínűbbet választod.) Ha nincs egy erősen kiemelkedő első helyezet, akkor bizonytalan a model, és ígí gyanús, hogy nem megalapozottan választ. Ez alapján szoktak számolni u.n. perplexity-t. De ez nem bizonyult hallucinációk kiszűrésére hatékony mutatónak. Eleve mikor egy model téved, ott sokszor magabiztosan teszi. Aztán az előzmények is bekavarnak, mint egy korábbi kis tévedés miatt érez biztosnak egy későbbi nagy tévedést.

  De hát ez az egyik nagy kérdés, hogy mi miért érezzük (általában), amikor valamit nem tudunk, vagy ha magabiztosak vagyunk benne. Lehet hogy ez megint egy magasabb rétegben iteratívan megoldandó önellenőrzés, és a betépett meggondolatlan megérző gép komponens maga jó, úgy ahogy van. Persze, minél jobban tippel, annál jobb, és egyelőre csak ennek az eredményét látjuk.

Új hozzászólás Aktív témák