Inteligencia Artificial
DeepSeek-AI libera R1, un modelo MoE de 671B parámetros que introduce un pipeline de entrenamiento basado en "Cold Start" y Reinforcement Learning multi-etapa. Incluye variantes destiladas que superan a modelos propietarios en eficiencia.
IA
NVIDIA revoluciona el desarrollo de IA con Project Digits, un supercomputador personal que ofrece un petaflop de potencia computacional. Con capacidad para manejar modelos de hasta 200 mil millones de parámetros.
Análisis
Análisis técnico de Chain of Thought (CoT) y la integración de tokens de pensamiento en el proceso de inferencia. Se examina la formulación probabilística de pasos intermedios, el impacto en la latencia de inferencia y la transición de CoT vía prompting a arquitecturas con razonamiento latente.
IA
DeepSeek-AI lanza DeepSeek-V3, un modelo mixture of experts con 671B de parámetros totales y 37B activos. Reporta un coste de entrenamiento de 5.5 millones de dólares, superando a Llama 3.1 405B en benchmarks de matemáticas y código.
Nobel
El 2024 marcará un antes y después en la historia de la inteligencia artificial. Por primera vez, la Academia Sueca ha otorgado dos Premios Nobel a investigaciones revolucionarias en IA, reconociendo su profundo impacto en la física y la química. Este momento histórico no solo valida el poder transformador de
Inteligencia Artificial
Meta publica Llama 3.1 405B, el modelo de pesos abiertos más grande a la fecha, junto con actualizaciones para las versiones 8B y 70B. La familia extiende la ventana de contexto a 128k tokens, mejora el soporte multilingüe y modifica su licencia para permitir la destilación de modelos.
Análisis
Análisis de la arquitectura Mixture of Experts (MoE), enfocado en el desacople del coste de inferencia respecto al conteo total de parámetros mediante "conditional computation".
Análisis
Análisis técnico de estrategias de Post-Training Quantization (PTQ) para LLM, enfocándose en la transición de FP16 a INT4. Se examinan los fundamentos de la cuantización, el impacto en la perplejidad del modelo y la reducción de latencia.
Intel
El futuro de la computación personal está experimentando una transformación radical, y la nueva serie Lunar Lake de Intel es la prueba viviente de ello. No estamos ante una simple actualización incremental: este es un momento decisivo que marca el nacimiento de una nueva era en la computación móvil, donde
Análisis
Análisis técnico de la adaptación de Large Language Models (LLMs) mediante Supervised Fine-Tuning (SFT) y Parameter-Efficient Fine-Tuning (PEFT). Implementación de LoRA para la reducción de requerimientos de VRAM y preservación de pesos pre-entrenados frente al catastrophic forgetting.
Análisis
Análisis técnico del mecanismo de Key-Value (KV) Cache en la inferencia de Large Language Models (LLMs). Se detalla la reducción de FLOPs redundantes durante la decodificación autoregresiva, el impacto en el consumo de VRAM y las implicaciones de ancho de banda.
Análisis
Análisis de la arquitectura RAG para sistemas de QA sobre datos propietarios. Se aborda la integración de dense retrieval mediante bases de datos vectoriales, la formulación probabilística de la generación condicionada y la implementación técnica para mitigar alucinaciones en LLMs.