Új hozzászólás Aktív témák

• #9210 hokuszpk nagyúr Petykemano #9208

  Új Válasz 2023-12-10 11:00:41 #9210

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  hokuszpk

  nagyúr

  válasz Petykemano #9208 üzenetére

  szvsz nem fog felhobol menni, ha helyben megvan a teljesitmeny, az ilyen ai cegeknek olcsobb helyben futtatni amit lehet ; mint sajat szerverparkot epiteni ( boviteni ) vagy berelni a teljesitmenyt. Szvsz adatbiztonsagi aggalyokra is jobb valasz az, hogy "dehat nemvisszuk el feldolgozasra az user adatait, ha akarja levalaszthatja a netrol a masinat a melo idejere" ( ami jelenleg nem feltetlen igaz, mert pl. a topaz mindig letolti az aktualis ai modellt ) , mint az, hogy "sajnos csak a szerverparkunkon belul mukodik".

• #9209 S_x96x_S addikt Petykemano #9208

  Új Válasz 2023-12-09 19:44:13 #9209

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Petykemano #9208 üzenetére

  > a lokális ML/AI hardvernek,

  szerintem ma és a közeljövőben minden top class
  a mobiltelefon chip-be tesznek AI-t
  ( eddig főleg a fényképek feljavítására ; pl iPhones/iPads/M1 -nek van Neural Engine -je )
  de ma már Stable Diffusion alapú képgenerálás,
  vagy beszéd felismerés ( Whisper )
  vagy AI Asszisztens: ( LLAMA2 )
  is várható okostelefonokba.
  https://www.qualcomm.com/products/mobile/snapdragon/smartphones/mobile-ai
  És hamarosan jönnek a Qualcomm Windows ARM hulláma,
  amikor is a mobiltelefonok, laptopok nagy része ilyen chipet kap.
  És az Intel chipekbe is bekerül a jövőben.

  Miért ?
  Mert Windowsra is jön beépítve ( Windows Copilot ) ami hybrid AI,
  Vagyis a Cloud mellett a helyi hardveres támogatás is hasznosul.
  https://blogs.windows.com/windowsdeveloper/2023/05/23/bringing-the-power-of-ai-to-windows-11-unlocking-a-new-era-of-productivity-for-customers-and-developers-with-windows-copilot-and-dev-home/
  "We are introducing new Hybrid AI loop to support AI development across platform, and across Azure to client with new silicon support from AMD, Intel, Nvidia and Qualcomm."

  "Last year at Build, we announced Hybrid Loop, a new development pattern that enables hybrid AI scenarios across Azure and client devices. Today, we are excited to share that our vision has become a reality using ONNX Runtime as the gateway to Windows AI and Olive, a toolchain we created to ease the burden on you when optimizing models for varied Windows and other devices. With ONNX Runtime, third-party developers have access to the same tools we use internally to run AI models on Windows or other devices across CPU, GPU, NPU, or hybrid with Azure."

  Szerintem biztos lesz GPU támogatása is az MS/Windows Hybrid Loop -nak.
  pl. nVidia támogatást is nagyon fejlesztik ..
  https://www.theverge.com/2023/11/15/23960471/microsoft-windows-ai-studio-nvidia-developers

Új hozzászólás Aktív témák