#оптимизация

AirLLM оптимизирует использование памяти при инференсе, позволяя запускать модели с 70 миллиардами параметров на одной видеокарте с 4 ГБ VRAM без квантизации, дистилляции или прунинга. Теперь доступен запуск 405B Llama3.1 на 8 ГБ VRAM.

Поддерживаются многие модели: Llama, ChatGLM, Qwen, Baichuan, Mistral, InternLM, а также сжатие 4bit/8bit для ускорения в 3 раза с минимальной потерей точности. Доступны предзагрузка, инференс на CPU и MacOS. Установка и использование просты, как с обычными трансформерами.

LEGO Batman: Legacy of the Dark Knight выходит 22 мая на ПК, PS5 и Xbox Series X|S, версия для Switch 2 в разработке. Игра получила 96% положительных отзывов в Steam из почти 1400 обзоров.

Microsoft планирует обновить интерфейс Windows 11, переводя элементы на фреймворк WinUI 3. Это должно ускорить работу системы.

Вице-президент Microsoft Скотт Хансельман ответил на критику функции «Профиль низкой задержки». Он объяснил, что это стандартная практика, полезная для пользователей.

Сооснователь Airbnb Джо Геббиа объявил о найме дизайнера Питера Арнелла на пост первого главного бренд-архитектора США. Арнелл присоединится к команде National Design Studio, занимающейся улучшением правительственных онлайн-платформ.

Демо-версия Final Fantasy 7 Rebirth для Nintendo Switch 2 получила смешанные отзывы из‑за отсутствия многих предметов интерьера и фоновых объектов. Комнаты выглядят минималистично по сравнению с PS5.

«Игры теряют до 30% скорости из-за плохой оптимизации под конкретный процессор, а не из-за его мощности», — отметил вице-президент Intel Роберт Халлок. Разработчики часто игнорируют ключевые технологии, такие как Thread Director или бинарную оптимизацию кода.

В январе компания снова сократила около 1500 сотрудников подразделения Reality Labs. Это продолжение курса на оптимизацию: после пандемии штат вырос до 87 000 человек, затем был уменьшен до 67 000, а к концу прошлого года достиг 78 865. Возвращение к массовым увольнениям началось в начале 2025 года.

Китайские бренды vivo, Xiaomi, Oppo и Honor объединились в альянсе ITGSA для внедрения единого стандарта управления оперативной памятью. Цель инициативы — ликвидировать перегрев, зависания и принудительное завершение фоновых процессов. Увеличение требований к приложениям создало угрозу стабильности операционных систем из-за нехватки ресурсов.

Источник: Omar Lopez-Rincon / unsplash.com