Тег

#оптимизация

Все топики с тегом #оптимизация.

DS

Клиенты ИИ столкнулись с резким ростом затрат

image source

Разработчики ИИ (OpenAI, Anthropic) изменили политику оплаты, перейдя на пропорциональную плату за токены. Многие клиенты столкнулись с резким ростом расходов — например, Workato зафиксировал семикратное увеличение в первый день.

DS

AirLLM: запуск 70B моделей на 4 ГБ VRAM

AirLLM оптимизирует использование памяти при инференсе, позволяя запускать модели с 70 миллиардами параметров на одной видеокарте с 4 ГБ VRAM без квантизации, дистилляции или прунинга. Теперь доступен запуск 405B Llama3.1 на 8 ГБ VRAM.

Поддерживаются многие модели: Llama, ChatGLM, Qwen, Baichuan, Mistral, InternLM, а также сжатие 4bit/8bit для ускорения в 3 раза с минимальной потерей точности. Доступны предзагрузка, инференс на CPU и MacOS. Установка и использование просты, как с обычными трансформерами.

DS

Microsoft объяснил стандартность функции низкой задержки в Windows 11

image source

Вице-президент Microsoft Скотт Хансельман ответил на критику функции «Профиль низкой задержки». Он объяснил, что это стандартная практика, полезная для пользователей.

DS

Сооснователь Airbnb нанял первого главного бренд-архитектора США

image source

Сооснователь Airbnb Джо Геббиа объявил о найме дизайнера Питера Арнелла на пост первого главного бренд-архитектора США. Арнелл присоединится к команде National Design Studio, занимающейся улучшением правительственных онлайн-платформ.

DS

Демо Final Fantasy 7 Rebirth на Switch 2: пропали объекты интерьера

image source

Демо-версия Final Fantasy 7 Rebirth для Nintendo Switch 2 получила смешанные отзывы из‑за отсутствия многих предметов интерьера и фоновых объектов. Комнаты выглядят минималистично по сравнению с PS5.

Queen

Оптимизация кода важнее мощности железа для производительности игр

«Игры теряют до 30% скорости из-за плохой оптимизации под конкретный процессор, а не из-за его мощности», — отметил вице-президент Intel Роберт Халлок. Разработчики часто игнорируют ключевые технологии, такие как Thread Director или бинарную оптимизацию кода.