AMD lanzó una excelente novedad para los usuarios de PCs con Ryzen AI o tarjetas gráficas Radeon. ¿Qué tal la idea de tener tu propio chatbot de IA con LLM en tu computadora? AMD ha compartido tutoriales detallados paso a paso para hacer precisamente eso. ¿Te imaginas poder mejorar y dar contexto a tus conversaciones utilizando la potencia de la Retrieval Augmented Generation? Con esta innovación, no solo podrás disfrutar de todas las ventajas de un LLM local para escribir código con total confianza, sino que también mantendrás la privacidad de tus datos en tu PC con IA, ¡incluso funcionando sin conexión a Internet!

Te recomendamos: ¡Atención! Las tarjetas madre Asus Intel series 700/600 y AMD AM5 reciben actualización de BIOS

• Cómo ejecutar el Large Language Model (LLM) en su PC con AMD Ryzen AI o tarjeta gráfica Radeon
  • https://community.amd.com/t5/ai/how-to-run-a-large-language-model-llm-on-your-amd-ryzen-ai-pc-or/ba-p/670709 

• Cómo habilitar RAG (Retrieval Augmented Generation) en una PC con AMD Ryzen AI
  • https://community.amd.com/t5/ai/how-to-enable-rag-retrieval-augmented-generation-on-an-amd-ryzen/ba-p/670670

• Cómo obtener un asistente de codificación de IA en su PC con AMD Ryzen AI
  • https://community.amd.com/t5/ai/how-to-get-an-ai-coding-assistant-on-your-amd-ryzen-ai-pc/ba-p/670686 

Para ver cómo esto cobra vida, AMD grabó demostraciones de pruebas de rendimiento en paralelo, mostrando las capacidades del sistema Ryzen AI en la ejecución de aplicaciones de inteligencia artificial comparado con la competencia. Los tests evidencian cómo Ryzen AI supera a Intel Core Ultra 7 en la generación de contenido (incluida la escritura de código) con velocidades más rápidas en un chatbot de IA LLM. 

Te recomendamos: AMD FSR 3 ya está disponible en la versión para PC de Starfield

Los datos de rendimiento de Ryzen AI frente a Core Ultra 7 155H incluyen:

• En cuanto a los tokens por segundo, Ryzen AI funciona hasta un 17% más rápido en Mistral Instruct y hasta un 14% más rápido en LLAMA v2 Chat.
• Para el tiempo hasta el primer token, Ryzen AI funciona hasta un 41% más rápido en Mistral Instruct y hasta un 79% más rápido en LLAMA v2 Chat.

Es un gran paso adelante en la integración de la inteligencia artificial en nuestras vidas diarias, y estaremos atentos para compartir más noticias y actualizaciones sobre este desarrollo en T3 Latam.