Sunday, November 24, 2024
 - Have a nice day!

AMD comparte tutoriales para ejecutar un chatbot de IA en PCs con Ryzen AI o Radeon

Posted By: T3 Latam at 15 March, 2024
AMD

AMD lanzó una excelente novedad para los usuarios de PCs con Ryzen AI o tarjetas gráficas Radeon. ¿Qué tal la idea de tener tu propio chatbot de IA con LLM en tu computadora? AMD ha compartido tutoriales detallados paso a paso para hacer precisamente eso. ¿Te imaginas poder mejorar y dar contexto a tus conversaciones utilizando la potencia de la Retrieval Augmented Generation? Con esta innovación, no solo podrás disfrutar de todas las ventajas de un LLM local para escribir código con total confianza, sino que también mantendrás la privacidad de tus datos en tu PC con IA, ¡incluso funcionando sin conexión a Internet!



Para ver cómo esto cobra vida, AMD grabó demostraciones de pruebas de rendimiento en paralelo, mostrando las capacidades del sistema Ryzen AI en la ejecución de aplicaciones de inteligencia artificial comparado con la competencia. Los tests evidencian cómo Ryzen AI supera a Intel Core Ultra 7 en la generación de contenido (incluida la escritura de código) con velocidades más rápidas en un chatbot de IA LLM. 



Los datos de rendimiento de Ryzen AI frente a Core Ultra 7 155H incluyen:

  • En cuanto a los tokens por segundo, Ryzen AI funciona hasta un 17% más rápido en Mistral Instruct y hasta un 14% más rápido en LLAMA v2 Chat.
  • Para el tiempo hasta el primer token, Ryzen AI funciona hasta un 41% más rápido en Mistral Instruct y hasta un 79% más rápido en LLAMA v2 Chat.

Es un gran paso adelante en la integración de la inteligencia artificial en nuestras vidas diarias, y estaremos atentos para compartir más noticias y actualizaciones sobre este desarrollo en T3 Latam.


Te podría interesar

© 2024 T3 Latam is part of geekzmedia. T3 All rights reserved Future plc.

T3 is part of Future plc, an international media group and leading digital publisher. Visit our corporate site
 Future Publishing Limited Quay House, The Ambury Bath BA1 1UA All rights reserved. England and Wales company registration number 2008885.
cross