В деня на откриването на мобилния Световен конгрес (MWC) Шанхай 2025 г., чипмейкър Qualcomm определи своята пътна карта за изместване на AI разработката от облачни до крайни устройства, като се позова на доказателства, че бъдещият опит на AI ще се проведе предимно на смартфони, компютри, автомобили и други потребителски устройства.
Изказвайки се на срещата на върха на агенцията AI на събитието в сряда, Винеш Сукумар, вицепрезидентът на Qualcomm на AI Product Management, заяви, че компанията вижда промяна в парадигмата, тъй като AI се развива от генеративни модели към интелигентни агенти, които действат автономно въз основа на намерението на потребителя. „AI се превръща в новия потребителски интерфейс (потребителски интерфейс)“, каза той.
„Ние бяхме един от първите, които демонстрираха големи модели, работещи изцяло на крайни устройства“, каза Сукумар, като се позовава на витрина от 2023 г., в която Qualcomm Chips захранва изображение и генериране на текст без облачна връзка.
Според Sukumar, базиран на ръба, носи предимства в бързината, енергийната ефективност и поверителността. За да подкрепи това, Qualcomm е разработил софтуерен стек, оптимизиран за малки и средни модели, с между 7 и 10 милиарда параметри. Той отбеляза, че компактните модели бързо са настигнали по -големите си колеги в производителността, стеснявайки качествената пропаст, някога доминирана от модели като Meta’s Llama 3.
Все пак изграждането на агентични AI – системи, способни на автономни действия – представляват предизвикателства, особено около последователност, точност и отзивчивост. Отговорът на Qualcomm е многопластова архитектура: Ако потребителската заявка не може да бъде напълно адресирана от локално устройство, задачите могат да бъдат разтоварени до близките сървъри на ръба и, когато е необходимо, ескалира до централизирани облачни платформи, поддържайки потребителското изживяване без латентни шипове.
Ключ за това е Hexagon NPU на Qualcomm, специализиран AI ускорител, който обработва матрица с висока ефективност и тензорни операции, критични за натоварването на AI, като в същото време минимизира дренажа на батерията.
Търговското внедряване на Edge AI вече е започнало, каза Сукумар, като случаи обхващат редактиране на снимки, генериране на съдържание и създаване на код в реално време. Qualcomm твърди, че е активирал 200 до 300 AI приложения годишно и очаква да мащабира това по-нататък като инструменти за разработчици и готови за потребители функции се появяват през следващите шест месеца.
Тъй като EDE AI набира скорост на фона на хардуерните ограничения и опасенията за поверителност около облачните изчисления, Qualcomm се позиционира като водещ доставчик на инфраструктура-не само в мобилните чипове, но и в AI системите, които захранват, че потребителите от следващо поколение изпитват.
Годишната конференция, проведена в Шанхайския Нов Международен изложбен център (SNIEC), е домакин на над 400 оратори тази година и се върти около четири основни теми: 5G интеграция, изкуствен интелект, свързани индустрии и дава възможност за свързаност.
Свързани
Нашия източник е Българо-Китайска Търговско-промишлена палaта