Pinterest і NVIDIA створили інфраструктуру для мультимодального ШІ

Pinterest і NVIDIA представили нову інфраструктуру для мультимодального штучного інтелекту. Платформа працює на графічних процесорах NVIDIA Blackwell і внутрішній технології Dynamo, вона підтримує Pinterest Assistant і може обробляти до 25 разів більше візуального контексту за один запит, повідомили у пресслужбі Pinterest.

За внутрішніми тестами Pinterest, оновлена система забезпечила приблизно 85-разове прискорення запуску відповіді і 7,3-разове зниження загальної затримки. Це було досягнуто за рахунок попередньо обчислених візуальних представлень, які усувають потребу повторно обробляти оригінальні зображення під час кожного запиту, а також шляхом оптимізації під апаратну архітектуру Blackwell і Dynamo.

Інфраструктура розроблена для продуктів, що одночасно працюють із зображеннями й текстом. Система дає змогу аналізувати більшу кількість зображень у рамках одного запиту і пришвидшувати формування відповідей у пошуку за зображеннями, рекомендаціях і взаємодії з помічником.

Попередньо обчислені представлення зберігаються так, щоб уникати повної повторної обробки файлів при кожному запиті. Pinterest очікує, що це зменшить час обробки і дозволить масштабувати роботу асистента на більше одночасних сесій.

Співпраця з NVIDIA відбувається на фоні розширення партнерства Pinterest з Amazon Web Services. У червні компанія оголосила про план витратити 4 мільярди доларів на послуги AWS до 2031 року; нова інфраструктура має доповнити існуючі хмарні рішення.

Pinterest визначає себе як візуальну пошукову систему, що застосовує ШІ для поліпшення пошуку й персоналізації контенту. Компанія заявляє, що технічні зміни дозволять обробляти більші обсяги візуальних даних і пришвидшити відповіді сервісів.