Apple ведет переговоры со стартапом, который сжимает ИИ-модели для запуска на смартфонах

Apple ведет переговоры с небольшой компанией из Силиконовой долины PrismML, которая утверждает, что может уменьшить размеры мощных моделей искусственного интеллекта настолько, чтобы они работали непосредственно на iPhone. Об этом гендиректор стартапа сообщил CNBC.

PrismML, созданная на базе Калифорнийского технологического института при поддержке Khosla Ventures, во вторник публично выпустила сжатые версии модели Qwen с открытым исходным кодом от Alibaba. Компания заявила, что уменьшила размер модели с примерно 54 ГБ до менее чем 4 ГБ, что позволяет запускать все 27 миллиардов ее параметров на iPhone 15 или более новых моделях.

Генеральный директор PrismML Бабак Хассиби сообщил, что Apple и другие компании оценивают модели стартапа и измеряют их скорость, энергоэффективность и производительность на устройствах. Он охарактеризовал переговоры как находящиеся на самой ранней стадии и сказал, что пока неясно, к чему они приведут, но что «все идет хорошо».

Выпуск состоялся через день после того, как Apple открыла публичную бета-версию iOS 27, предоставив владельцам iPhone первый широкий доступ к долгожданному обновлению Siri. Apple пытается сделать Siri более конкурентоспособной по сравнению с помощниками от OpenAI и Anthropic.

Подход стартапа может решить одну из главных проблем, стоящих перед стратегией Apple в области ИИ. Наиболее мощные модели обычно требуют слишком много памяти и вычислительной мощности для работы на смартфоне. Apple может отправлять сложные запросы облачным моделям, но запуск ИИ непосредственно на iPhone сократит задержку, связанную с отправкой данных на удаленный сервер, снизит затраты на облачные вычисления и поддержит аргументы компании о конфиденциальности. Это также позволит некоторым функциям работать без подключения к интернету.

Стартап заявил, что сжатые модели используют в 10-15 раз меньше памяти, генерируют ответы в 6-8 раз быстрее и потребляют в 3-6 раз меньше энергии, чем обычные версии, работающие на существующем оборудовании. PrismML ожидает, что эта технология в конечном итоге может выйти далеко за рамки телефонов и ноутбуков и охватить робототехнику, автономные системы и другие продукты, в которых необходимо быстро принимать решения, не полагаясь на облачное соединение.

Скорость совершения операций особенно важна в инвестициях. С «Финамом» есть решение для квалифицированных инвесторов, использующих алго- и HFT-трейдинг: скорость передачи данных до 5000 раз выше стандартного подключения. Услуга доступна клиентам с суммой от 5 млн рублей на счете.

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.