La mayoría de usuarios usan las IA que podemos encontrar de forma online, como ChatGPT, Gemini, Grok, etc. Sin embargo, también existe la opción de ejecutarla en local, es decir, en nuestro propio equipo, pero, ¿qué hardware me hace falta para que funcione bien?
En el día de hoy veremos los componentes mínimos que tendríamos que comprar para poder usar la IA de una forma decente, con tiempos de espera aceptables y que consiga realizar lo que le pedimos, ya que, aunque parezca que no necesitan tanto, ya veremos cómo sí.
Que necesito para usar IA en local
Lo primero que hay que saber es que el hardware que necesitas depende directamente del modelo que quieras utilizar. No es lo mismo ejecutar una IA pequeña que una mucho más avanzada. Cuanto mayor sea el modelo, más memoria necesitará y más trabajo tendrá que hacer tu ordenador para generar cada respuesta, algo que es lógico, como en cualquier categoría.
Si simplemente quieres probar una IA en local o usarla para tareas del día a día, como hacer preguntas, resumir textos, traducir documentos o ayudarte a programar, los modelos de 7B son una opción muy recomendable. Hoy en día funcionan sorprendentemente bien y no hace falta tener un PC de gama alta para moverlos. Con una tarjeta gráfica de 8 GB de VRAM y 16 GB de memoria RAM ya podrás obtener una experiencia bastante buena.
Cuando empiezas a utilizar modelos más grandes, de 14B por ejemplo, ya hablamos de que es posible que necesites contar con un poco más de potencia. No solo necesitarás una gráfica con más memoria, sino también más RAM para que todo funcione con fluidez. Lo ideal en estos casos es disponer de una GPU con 12 o 16 GB de VRAM y unos 32 GB de RAM, especialmente si además tienes otras aplicaciones abiertas mientras utilizas la IA, es decir, un PC gamer de gama alta, algo que ya no es tan barato.
A partir de ahí los requisitos empiezan a crecer bastante rápido. Los modelos de 30B o superiores ya están pensados para equipos mucho más potentes y, en muchos casos, para ordenadores profesionales que no tendremos en nuestras casas. Es posible hacer que funcionen en un PC normal, pero normalmente tendrás que aceptar que las respuestas tarden bastante más en aparecer o recurrir a configuraciones más complejas, algo que, para probar, no está mal, pero para el uso del día a día es demasiado tedioso tener que esperar tanto entre mensaje y mensaje.
