В духе последних двух лет мы анализируем развитие того, что мы определили как ключевые технологические драйверы 2020-х годов в мире баз данных, управления данными и К. Мы оглядываемся на 2021 год, пытаясь определить закономерности, которые сформируют 2022 год.

Сегодня мы продолжим с того, с чего начали, с первой части нашего обзора, чтобы охватить ИИ и графики знаний.

Многоликость ИИ: оборудование, периферия, MLOps, языковые модели, будущие архитектуры и этика.

В принципе, мы стараемся подойти к ИИ целостно. Принимать во внимание положительные и отрицательные стороны, от блестящего до обыденного, от аппаратного до программного. Аппаратное обеспечение было непрерывной историей в более широкой истории ИИ в течение последних нескольких лет, и мы считаем, что это хорошее место для начала нашего тура.

Последние пару лет мы следим за растущим списком поставщиков «чипов ИИ», то есть компаний, которые начали разрабатывать новые аппаратные архитектуры с нуля, специально нацеленные на рабочие нагрузки ИИ. Все они стремятся получить кусок, казалось бы, постоянно растущего пирога: поскольку ИИ продолжает расширяться, указанные рабочие нагрузки продолжают расти, и их обслуживание как можно быстрее и экономичнее — очевидная цель.

Nvidia продолжает доминировать на этом рынке. Nvidia уже была на рынке задолго до того, как рабочие нагрузки ИИ начали быстро расти, и у нее хватило проницательности и рефлексов, чтобы извлечь из этого выгоду, создав экосистему аппаратного и программного обеспечения. Его шаг 2020 года по превращению Arm в эту экосистему находится под пристальным вниманием регулирующих органов. Однако в 2021 году Nvidia не простаивала.

Из множества анонсов, сделанных на мероприятии Nvidia GTC в ноябре 2021 года, те, которые приносят что-то новое на аппаратном уровне, связаны с тем, что, как мы утверждали, характеризует фокус ИИ в 2021 году в целом: выводы и преимущества. Nvidia представила ряд улучшений для Сервер вывода Triton. Он также представил Графический процессор Nvidia A2 с тензорным ядром, маломощный и компактный ускоритель для вывода ИИ на периферии, который, по утверждению Nvidia, обеспечивает до 20 раз большую производительность вывода, чем процессоры.

А как же выскочки? SambaNova утверждает, что теперь является «самым финансируемым стартапом в области искусственного интеллекта в мире» после колоссальных 676 миллионов долларов в рамках серии D, что превышает оценку в 5 миллиардов долларов. Философия SambaNova заключается в том, чтобы предложить «ИИ как услугу», теперь включающую языковые модели GPT, и похоже, что 2021 год стал для них в целом годом выхода на рынок.

Xilinx, со своей стороны, заявляет о резком ускорении нейронных сетей по сравнению с графическими процессорами Nvidia. Cerebras утверждает, что «полностью доминирует» в высокопроизводительных вычислениях, и также получила немалое финансирование. Graphcore конкурирует с Nvidia (и Google) в результатах MLPerf. Tenstorrent наняла легендарного дизайнера микросхем Келлера. Blaize привлекла 71 млн долларов на внедрение искусственного интеллекта в промышленных приложениях. Компания Flex Logix получила 55 миллионов долларов венчурной поддержки, в результате чего общая сумма выручки составила 82 миллиона долларов. И последнее, но не менее важное: у нас есть новая лошадь в гонке в NeuReality, способы смешивания и согласования развертываний в ONNX и TVM, а также обещание использования ИИ для разработки чипов ИИ. Если это не стремительно развивающиеся инновации, мы не знаем, что это такое.

По данным State of the Edge от Linux Foundation отчеткомпании, занимающиеся цифровым здравоохранением, производством и розничной торговлей, с большой вероятностью будут расширять использование периферийных вычислений к 2028 году. Неудивительно, что оборудование ИИ, фреймворки и приложения, ориентированные на периферию, также быстро расширяются.

TinyML, искусство и наука создания моделей машинного обучения, достаточно бережливых, чтобы работать на периферии, быстро растет и создает экосистему. Edge Impulse, стартап, который хочет сделать машинное обучение доступным для всех, только что объявил о своем финансировании серии B. Появляются пограничные приложения, и ИИ и его оборудование станут важной частью этого.

То, что мы назвали в 2020 году, стало заметным в 2021 году и будет с нами в ближайшие годы, — это так называемые MLOps — внедрение машинного обучения в производство. В 2021 году люди пытались дать имена различным явлениям, относящимся к MLOps, нарезать и нарезать домен MLOps, применить контроль версий данных и непрерывное машинное обучение, а также, среди прочего, эквивалент разработки на основе тестирования для данных. Акцент смещается с блестящих новых моделей на, возможно, более приземленные, но практические аспекты, такие как качество данных и управление конвейером данных, а также MLOps будут продолжать расти.

Другая вещь, которая, вероятно, будет продолжать расти, как в плане размера, так и количества, — это большие языковые модели (LLM). Некоторые люди думают, что LLM могут усвоить базовые формы языка, будь то биология, химия или человеческий язык, и мы скоро увидим рост необычных приложений LLM. Другие, не так много. В любом случае количество LLM растет.

Помимо «обычных подозреваемых» — OpenAI с его GPT3, DeepMind с его последней версией RETRO LLM, Google с его постоянно расширяющийся список LLM — Теперь Nvidia объединилась с Microsoft в Megatron LLM. Но это не все.

Недавно EleutherAI, коллектив независимых исследователей искусственного интеллекта, предоставил открытый исходный код своей модели GPT-j с 6 миллиардами параметров. Кроме того, если вы интересуетесь языками помимо английского, теперь у нас есть большая европейская языковая модель, свободно говорящая на английском, немецком, французском, испанском и итальянском языках от Aleph Alpha. Wudao — это китайский LLM, который также является крупнейшим LLM с 1,75 триллионом параметров, а HyperCLOVA — корейским LLM с 204 миллиардами параметров. Кроме того, всегда есть другие, немного более старые / меньшие по размеру LLM с открытым исходным кодом, такие как GPT2 или BERT и многие его варианты.

Помимо LLM, и DeepMind, и Google намекали на революционные архитектуры для моделей искусственного интеллекта с Perceiver и Pathways соответственно. Пути критиковались за то, что они довольно расплывчаты. Однако мы рискнем предположить, что он может быть основан на Perceiver. Но поскольку мы находимся на территории технологий будущего, было бы упущением не упомянуть DeepMind Нейроалгоритмическое мышление, направление исследований, обещающее объединить классические алгоритмы информатики с глубоким обучением.

Ни один обзор ИИ, каким бы сжатым он ни был, не будет полным без почетного упоминания этики ИИ. Этика ИИ оставалась в центре внимания в 2021 году, и мы видели людей, начиная от комиссаров FTC и заканчивая отраслевыми практиками, каждый из которых пытался решить этику ИИ по-своему. И давайте не будем забывать о продолжающемся буме приложений искусственного интеллекта в здравоохранении, области, в которой этика должна быть главным приоритетом с ИИ или без него.

Графики знаний, графовые базы данных и графический AI

Мы были активными сторонниками графики всех форм и размеров — графы знаний, графовые базы данных, графическая аналитика, наука о данных и искусственный интеллект — уже давно. Поэтому мы сообщаем с этого фронта со смешанным чувством. С одной стороны, мы не видели много инноваций, за исключением, возможно, одной области — графовые нейронные сети. DeepMind’s Нейроалгоритмическое мышление также использует GNN.

С другой стороны, это не обязательно плохо по двум причинам. Во-первых, это массовое распространение технологии. К 2025 году графические технологии будут использоваться в 80% инноваций в области данных и аналитики по сравнению с 10% в 2021 году, что будет способствовать быстрому принятию решений. Gartner прогнозирует. Отчетность по варианты использования от BMW, IKEA, Siemens Energy, Wells Fargo и UBS больше не новости, и это хорошо. Да, есть проблемы, связанные с построением и поддержанием графов знаний, но эти проблемы по большей части хорошо понятны.

Как мы уже отмечали, графы знаний — это технология, которой уже 20 лет, и, похоже, ее время в центре внимания уже наступило. Способы построения графов знаний хорошо известны, а также связанные с ними проблемы. Неслучайно некоторые из наиболее востребованных навыков и областей для развития в графах знаний связаны с использованием обработки естественного языка и визуальных интерфейсов для построения и поддержки графов знаний, а также способов расширения от однопользовательских к многопользовательским сценариям. .

И чтобы связать этот разговор с более широкой картиной ИИ, к которому он принадлежит, общие проблемы, похоже, связаны с введением в действие и накоплением нужного опыта в командах, поскольку эти навыки очень востребованы. Еще одна важная точка соприкосновения — это направление гибридного ИИ, которое связано с внедрением знаний в области машинного обучения. Такие лидеры, как Гади Сингер из Intel, Майк Диллинджер из LinkedIn и Фрэнк ван Хармелен из Hybrid Intelligence Centre, все указывают на важность организации знаний в виде графов знаний для будущего ИИ.

Существует также еще одна важная точка соприкосновения между более широкой картиной ИИ и графами знаний: сетки данных и фабрики данных. Извините, если вы перепутали эти 2 и множество терминов, связанных с данными, которые летают в наши дни. Упрощенно скажем, что фабрика данных предназначен для использования в качестве технической основы для концепции децентрализованного управления данными в организациях. На самом деле это очень хорошо подходит для технологии графов знаний, и несколько поставщиков в этой области определили это и позиционируют себя соответствующим образом. Четное Informatica, кажется, заметила.

А как насчет субстрата для построения графов знаний, а именно графовых баз данных? Слово, которое, кажется, характеризует 2021 год для графических баз данных, будет «выйти на рынок». Это был хороший год для графических баз данных. База данных графов — Neo4j — сделала Топ-20 в двигателях БД впервые. Neo4j также анонсировал общедоступность управляемого облачного сервиса Aura и привлекла раунд финансирования серии F на 325 миллионов долларов, крупнейшего в истории баз данных, в результате чего его оценка превысила 2 миллиарда долларов.

В пространстве базы данных графа прошла серия раундов финансирования и предстоящее IPO. TigerGraph заработал 105 миллионов долларов в серии C, Katana Graph получил 28,5 миллионов долларов в серии A, Начальное финансирование Memgraph в размере 9,34 миллиона долларов и TerminusDB 3,6 млн евро. Тем временем Bitnine, создатель Agens Graph, начал работает над IPO — первый на рынке.

В техническом плане GraphQL все еще получает все большее распространение, либо как часть более широкой экосистемы, либо как центральный компонент в архитектуре данных. Работа по объединению двух миров графовых баз данных с точки зрения моделей, RDF и LPG, все еще продолжается, но в 2021 году в ней произошли некоторые интересные изменения.

Мы не ожидаем, что медовый месяц мира с графиками и графическими базами данных продлится вечно, и после шумихи в какой-то момент неизбежно последует разочарование. Но мы уверены, что эта технология является фундаментальной и найдет свое место, несмотря на икоту.