Bár a Copilot márkanév használata láthatóan lejjebb lett tekerve, a mögöttes technológia továbbra is teljesen elérhető, így a fejlesztésében fontos szerepet kap az emberi ellenőrzés. A 404 Media riportja szerint a szolgáltatás egyes feladatait külsős munkatársak értékelik, akik adott esetben hozzáférhetnek a felhasználó által feltöltött képekhez, a hozzá tartozó promptokhoz, illetve a Copilot által készített eredményhez is.

A legtöbbször ez képszerkesztési feladatoknál lehet érdekes. Ha valaki például feltölt egy képet, majd módosítást kér a Copilottől, akkor előfordulhat, hogy a teljes beszélgetés és a kapcsolódó képi tartalom egy emberhez kerül, aki azt vizsgálja, hogy a neuronháló megfelelően hajtotta-e végre a feladatot. Valószínűleg a felhasználók jelentős része nem számít arra, hogy a szolgáltatásnak elküldött privát képek később egy külsős értékelő monitorján kötnek ki, de ez a valóság, hiszen így lehet jobbá tenni a technológia működését.

A Microsoft szerint az értékelőknek továbbított adatokat anonimizálják, ami egyrészt jó, másrészt viszont a 404 Media által megkérdezett munkatársak szerint nem minden esetben számít, mivel a képeken látható arcokat például nem feltétlenül takarják ki, illetve a kapcsolódó promptokból származó személyes vagy azonosításra alkalmas információk is megmaradhatnak. A gyakorlatban tehát a szolgáltatást használó ügyfél nem azonosítható, de az információk, amelyeket a rendszernek megadott már képlékenyek ebből a szempontból.

Ennél is sokkal kellemetlenebb, hogy az ellenőrzést végző külsős munkatársaknak nem egyszerűen néhány ártalmatlan képszerkesztést kell elemezniük. A beszámolók szerint jelentős mennyiségben érkeznek szexuális és fetisiszta tartalmak, köztük olyan kérések is, amelyek valódi embereket helyeznének szexuális helyzetbe. Akadnak rajzfilmfigurákhoz kapcsolódó fetisiszta kérések, illetve olyan feladatok is, amelyeknél a neuronhálónak meglehetősen sajátos szempontok alapján kellene módosítania egy szereplő külsejét.

Ez viszont még mindig nem minden, mivel a 404 Media szerint az értékelők proanorexiás képekkel, illetve gyermekeket érintő, szexuálisan szuggesztív tartalmak létrehozására irányuló kérésekkel is találkozhatnak. A munkakörükből adódóan azonban nem ezek kiszűrése a feladatuk, hanem annak megállapítása, hogy a Copilot válasza megfelelő volt-e. Ez azonban problémákat okoz, ugyanis az egyik, belső üzenőfalon megszólaló munkatárs szerint nehéz komolyan venni a feladatot akkor, amikor többek között azt kell megítélnie, hogy a neuronháló megfelelő testméretet vagy megfelelően szexuális pozíciót választott-e egy szereplőnek.

A történetnek jogi oldala is van. Az egyik munkatárs állítólag olyan feladattal találkozott, amely végül több, szoknya alá való befényképezést mutató képet tartalmazott, egy másik érintett pedig olyan fotókat látott, amelyek valamilyen állatáldozatot ábrázolhattak. Bizonyos országokban már az ilyen tartalmak birtoklása is törvénytelen lehet, így az értékelők helyzete ezen a ponton túlmutat azon, hogy kellemetlen dolgokat kell nézegetniük munka közben.

A Microsoft a 404 Media riportjára egyelőre annyit reagált, hogy a felhasználói adatokat a felhasználási feltételekben meghatározott módon használja, többek között a termékek fejlesztésére és a magatartási szabályok betartatására. Részletesebb magyarázatot viszont nem adtak arról, hogy pontosan milyen esetekben kerülhetnek a Copilot által kezelt tartalmak emberi értékelőkhöz.