Компания отметила раунд финансирования, заявив, что у нее есть технология, позволяющая решить некоторые из самых больших препятствий на пути повышения производительности ИИ, в том числе предоставляя создателям моделей больше возможностей для маневра с точки зрения дизайна и снижения затрат в процессе.
Серийные предприниматели из Кембриджа Стэн Боланд и Герман Хаузер являются инвесторами-ангелами вместе с Амаром Шахом, соучредителем компании Wayve, созданной в Кембриджском университете.
Соруководителями этого раунда финансирования выступили Kindred Capital, Инновационный фонд НАТО (который позволяет основателям DeepTech решать проблемы обороны, безопасности и устойчивости) и OSE (Oxford Science Enterprises) при участии Cocoa и Inovia Capital. Благодаря этому вливанию стартового капитала Fractile теперь привлекла 17,5 миллионов долларов США (14 миллионов фунтов стерлингов) в общей сложности.
Fractile утверждает, что в нынешних условиях реализация моделей ИИ очень дорога, их производительность ограничена, а их потенциальные будущие возможности ограничены. Разработчикам моделей искусственного интеллекта сложно обеспечить значимую дифференциацию, говорят в компании.
Компания Fractile со штаб-квартирой в Лондоне заявляет, что использует радикально иной подход к разработке чипов для вывода ИИ. Ключевым аспектом этого подхода являются вычисления в памяти, которые устраняют необходимость передачи параметров модели на процессорные чипы и обратно.
По данным компании, ее чипы смогут запускать передовые модели искусственного интеллекта как минимум в 100 раз быстрее и в 10 раз дешевле, используя новую схему для выполнения 99,99% операций, необходимых для вывода моделей. Эта стратегия также позволит добиться значительной экономии энергии.
Компания Fractile, основанная в 2022 году доктором искусственного интеллекта Уолтером Гудвином, уже создала команду мирового уровня из старших специалистов из NVIDIA, Arm и Imagination.
Инвестиции будут использованы для развития команды Fractile в области кремния, программного обеспечения и искусственного интеллекта, установления партнерских отношений и ускорения разработки первых продуктов компании.
Представитель сообщил: «У компании, которая хочет разработать лучшее оборудование для вывода ИИ, есть два возможных пути. Первый — это специализация: сосредоточение внимания на очень конкретных рабочих нагрузках и создание чипов, специально адаптированных к этим конкретным требованиям.
«Поскольку в мире искусственного интеллекта архитектура моделей быстро развивается, а проектирование, проверка, производство и тестирование чипов занимают значительное время, компании, использующие этот подход, сталкиваются с проблемой нацеливания на движущуюся цель, точное направление которой неизвестно.
«Второй путь — фундаментально изменить способ выполнения самих вычислительных операций, создать из этих новых строительных блоков совершенно другие чипы и построить на их основе чрезвычайно масштабируемые системы. Это подход Fractile, который обеспечит революционную производительность целого ряда нынешних и будущих моделей искусственного интеллекта. »
Доктор Гудвин, генеральный директор, добавил: «В сегодняшней гонке за искусственным интеллектом ограничения существующего оборудования – почти все из которого предоставляется одной компанией – представляют собой самый большой барьер на пути к повышению производительности, снижению затрат и более широкому внедрению.
«Подход Fractile оптимизирует логические выводы, обеспечивая поразительное улучшение скорости и стоимости. Это не просто ускорение: изменение точки вывода производительности позволяет нам исследовать совершенно новые способы использования ведущих сегодня моделей ИИ для решения самых сложных мировых проблем.
«Мы очень рады получить финансирование от инвесторов с богатым опытом в секторах искусственного интеллекта и микрочипов, чтобы продолжать развивать нашу команду мирового класса и продолжать наше развитие технологий и партнерство. »
Стэн Боланд сказал: «Нет сомнений в том, что с помощью Fractile Уолтер создает одну из будущих мировых суперзвезд. Он блестящий специалист по искусственному интеллекту, но он также внимательно прислушивается к рынку, чтобы убедиться, что он создает действительно привлекательные продукты, которые другие эксперты захотят использовать в больших масштабах. »
«Для достижения этой цели он уже начал формировать одну из лучших в мире команд экспертов в области полупроводников, программного обеспечения и инструментов с безупречной репутацией. Я уверен, что Fractile быстро станет самым надежным партнером ведущих поставщиков моделей искусственного интеллекта. »
Business Weekly понимает, что тестовые чипы будут переданы на шаттл к концу года.
Боланд сказал: «Fractile не ориентирован на тренировки. Именно в процессе обучения существует огромная блокировка CUDA* от NVIDIA, которую Graphcore так и не удалось преодолеть, плюс недостаточная пропускная способность памяти и невозможность масштабирования по мере увеличения моделей.
«Напротив, система Fractile очень масштабируема и основана на логических выводах. Это процесс (с использованием примера широкой языковой модели), при котором модель уже построена, обучение выполнено и веса обучения известны, работа состоит в том, чтобы взять входные токены, взять веса, выполнить вычисления и создать выходные токены.
«В выводе в значительной степени преобладают матричные векторные умножения (например, 99,999% операций), и графические процессоры ужасно справляются с ними, потому что для каждого токена большое количество весов должно быть перенесено на чип для выполнения довольно тривиальных вычислений, а затем результат записывается обратно. на память.
«Вот почему вычисления в памяти (IMC) — это правильный путь. Graphcore также был архитектурой IMC, как и около 20 других стартапов в этой области (хотя в случае Graphcore это затрудняло отсутствие масштабируемости), поэтому неудивительно, что Fractile применил этот подход.
«Но Уолтер параллельно делает кое-что очень интересное, чем я не могу сейчас поделиться, но что является ключом к получению 100-кратного преимущества в производительности, стоимости и мощности.
«Как только модели и веса известны, относительно просто переложить задачу вывода на разные процессоры; нет эффективной блокировки CUDA. Над Fractile еще многое предстоит сделать, но за этим проектом определенно стоит следить. »
* CUDA — это программный уровень, который обеспечивает прямой доступ к набору виртуальных команд графического процессора и элементам параллельных вычислений для выполнения вычислительных ядер.
