Nvidia и Intel наскоро разкриха своите локално управлявани AI чатботове и изглежда, че AMD не иска да изостава и затова публикува свое собствено решение за собствениците на процесори Ryzen и Radeon. В пет или шест стъпки потребителите могат да започнат да взаимодействат с AI чатбот, който работи на техния локален хардуер, а не в облака. Не се изисква опит в програмирането.
Ръководството на AMD изисква потребителите да имат компютърен чип Ryzen AI или GPU от серия RX 7000. Днес Ryzen AI е достъпен само за Ryzen APU от по-висок клас, базирани на Phoenix и Hawk Point с Radeon 780M или 760M интегрирана графика. Това предполага, че докато Ryzen 5 8600G се поддържа, Ryzen 5 8500G може да не работи, независимо че самото приложение изброява само „CPU с поддръжка на AVX2“ като изискване, което означава, че трябва да работи (вероятно много бавно) на широк гама от процесори.
Потребителите трябва да изтеглят и инсталират LM Studio, което има ROCm версия за потребители на серията RX 7000. Трябва да се има предвид, че стандартният пакет работи също така с процесори на Intel и GPU на Nvidia. След като инсталирате и стартирате LM Studio, просто потърсете желания LLM, като например оптимизирания за чат Llama 2 7B. AMD препоръчва използването на модели с етикета „Q4 K M“, който се отнася до определено ниво на квантуване (4 бита) и други характеристики.
Урокът от ръководството на AMD е, че има поне един лесен за използване официален метод за стартиране на AI чатбот на целия потребителски хардуер на AMD, Intel и Nvidia. Не е изненадващо, че Nvidia беше първа със своето приложение Chat with RTX, което естествено работи само на графични процесори на Nvidia. Chat with RTX е може би най-разработеното от всички решения, тъй като може да анализира документи, видеоклипове и други файлове. Плюс това, поддръжката за този чатбот на Nvidia се простира до серия 30, а по поддръжката на серия 20 може вече и да се работи.
Междувременно, решенията на Intel за AI CPU/NPU и GPU са по-засегнати. Вместо да използва приложение за демонстриране на локален AI чатбот, Intel демонстрира как можете да използвате Python за програмиране на такъв. Въпреки че кодът, който потребителите ще трябва да напишат, не е много дълъг, наличието, на какъвто и да е код за програмиране ще бъде бариера за много потенциални потребители. Освен това отговорите в чата се показват в командния ред, което далеч не е точно „най-съвременен AI“. Вместо това можете да опитате LM Studio, въпреки че изглежда, че все още няма поддръжка на Intel GPU или NPU, така че ще използва само вашия процесор.
Въпреки че AMD няма собствено приложение за AI чатбот, както Nvidia, изглежда е по-напред от Intel по отношение на функциите, тъй като има поне хардуерна поддръжка на ROCm GPU. Следващата стъпка за AMD вероятно е да направи своя собствена версия на Chat with RTX, или поне да работи с разработчиците на LM Studio, за да активира повече функции за хардуера на AMD. Може би дори ще видим AI функционалност, интегрирана в пакета драйвери Radeon Adrenalin. AMD прави AI оптимизации на ниво драйвер и пакетът драйвери често получава нови функции като Fluid Motion Frames.
Източник: Tomshardware
