Otwarte modele jako podstawa lokalnego ekosystemu AI
NVIDIA poinformowała, że czołowe japońskie przedsiębiorstwa, startupy i instytucje badawcze rozwijają wyspecjalizowane modele oraz aplikacje AI z wykorzystaniem otwartych modeli, danych i bibliotek NVIDIA Nemotron. Celem tych projektów jest tworzenie rozwiązań dostosowanych do języka japońskiego, lokalnych branż oraz zmian zachodzących na rynku pracy.
Według firmy otwarte modele mają umożliwiać organizacjom samodzielne dostosowywanie, wdrażanie i nadzorowanie systemów sztucznej inteligencji. W Japonii znaczenie takich rozwiązań rośnie w związku ze starzeniem się społeczeństwa i zmianami demograficznymi, które zwiększają zapotrzebowanie na technologie wspierające pracowników, produktywność i rozwój innowacji.
Wśród podmiotów korzystających z technologii Nemotron znajdują się Institute of Science Tokyo, SoftBank Corp., SB Intuitions Corp. i Stockmark. Japońskie przedsiębiorstwa avatarin, ENEOS Holdings, Hitachi i NTT DATA rozwijają natomiast aplikacje AI przeznaczone m.in. dla robotyki, obsługi klientów, działalności badawczo-rozwojowej oraz procesów biznesowych.
Modele językowe dostosowane do języka japońskiego
Institute of Science Tokyo opracował rodzinę otwartych modeli bazowych Swallow, wykorzystując zbiory danych NVIDIA Nemotron oraz środowisko programistyczne NVIDIA NeMo do dalszego treningu i dostrajania modeli. Rozwiązania z rodziny Swallow poprawiają jakość obsługi języka japońskiego oraz zdolności wnioskowania, zachowując jednocześnie podstawowe możliwości modeli bazowych w zakresie języka angielskiego, matematyki i programowania.
Modele Swallow są dostosowywane przez przedsiębiorstwa do wyspecjalizowanych zastosowań, takich jak tłumaczenie dokumentów finansowych oraz generowanie raportów dotyczących zarządzania aktywami.
SB Intuitions Corp., spółka badawcza SoftBank Corp. zajmująca się generatywną sztuczną inteligencją, trenowała serię własnych modeli Sarashina z wykorzystaniem technologii NVIDIA Nemotron, w tym bibliotek NVIDIA NeMo RL i Megatron-LM. Model Sarashina3 mini został wybrany przez japońską Agencję Cyfrową do specjalistycznych zastosowań AI.
SoftBank opracował również i wdrożył Large Telecom Model, wykorzystujący modele Sarashina i NVIDIA Nemotron. System ma wspierać autonomiczne prowadzenie operacji w sieciach telekomunikacyjnych.
Stockmark zaprezentował z kolei wyspecjalizowany model do analizy dokumentów w języku japońskim, bazujący na NVIDIA Nemotron 3 Nano Omni. Firma rozwija również aplikacje do zarządzania wiedzą przedsiębiorstw, wykorzystujące NVIDIA NeMo Retriever i zbiór danych Nemotron-Personas-Japan.
Rozwiązania Stockmark są kierowane do klientów z japońskiego przemysłu produkcyjnego, energetycznego i chemicznego. Projekty prowadzone są w ramach krajowego programu Generative AI Accelerator Challenge.
AI w robotyce i systemach obsługi klientów
Startup avatarin wykorzystuje otwarte modele NVIDIA Nemotron oraz środowisko NVIDIA NeMo do rozwijania japońskojęzycznych funkcji rozpoznawania mowy i rozumowania dla agentów AI przeznaczonych dla przedsiębiorstw.
Prywatną infrastrukturę obliczeniową dla tych systemów zapewniają platformy NVIDIA HGX B300. Umożliwiają one agentom analizowanie rozmów z klientami oraz korzystanie z firmowych zasobów wiedzy w celu przygotowywania dokładniejszych odpowiedzi.
Do obsługi funkcji AI realizowanych na urządzeniach brzegowych wykorzystywane są natomiast platformy NVIDIA Jetson. Obejmują one m.in. systemy cyfrowych awatarów wdrażane na lotniskach oraz w innych lokalizacjach na terenie Japonii.
Wsparcie badań nad energią i materiałami
ENEOS Holdings wykorzystuje modele NVIDIA Nemotron wraz z NVIDIA AI-Q Blueprint oraz mikrousługami NVIDIA ALCHEMI NIM do rozwijania agentowych przepływów pracy w obszarze badań nad energią i materiałami.
Technologie te służą do łączenia wyszukiwania dokumentacji technicznej, analizy obrazu i języka oraz molekularnych procesów selekcji wspieranych symulacjami.
Systemy wieloagentowe i integracja środowisk IT oraz OT
NTT DATA wykorzystała zbiór Nemotron-Personas-Japan do rozszerzenia danych treningowych własnego modelu tsuzumi 2. Według firmy pozwoliło to poprawić dokładność odpowiedzi oraz jakość obsługi pytań wymagających dodatkowej wiedzy.
Przedsiębiorstwo analizuje również możliwość wdrożenia skalowalnego środowiska wieloagentowego wykorzystującego NVIDIA Agent Toolkit i modele Nemotron. System ma kierować zadania do najlepiej dopasowanych modeli oraz wspierać dokładne, wydajne i autonomiczne procesy realizowane w przedsiębiorstwach.
Hitachi rozwija natomiast technologie fizycznej sztucznej inteligencji przeznaczone do rozwiązywania rzeczywistych problemów operacyjnych. Firma wykorzystuje modele NVIDIA Nemotron i NVIDIA Cosmos, łącząc je z własną wiedzą domenową z obszaru technologii informacyjnych i operacyjnych.
Rozwiązania te mają być elementem wieloagentowej platformy orkiestracyjnej, która będzie łączyć i koordynować operacje IT i OT. Celem jest usprawnienie złożonych procesów biznesowych realizowanych w dużych organizacjach.
Dynamiczny wybór modelu do konkretnego zadania
Sakana AI współpracuje z NVIDIA nad integracją modeli Nemotron z platformą orkiestracji modeli Fugu. Rozwiązanie ma dynamicznie wybierać model najlepiej dopasowany do konkretnego zadania realizowanego w agentowym przepływie pracy.
Fugu może kierować poszczególne zapytania do różnych modeli otwartych i własnościowych, umożliwiając równoważenie dokładności, wydajności oraz kosztów. Platforma ma pokazywać, że koordynacja kilku modeli może zapewniać możliwości wykraczające poza rezultaty osiągane przez pojedynczy system.
Pierwsze wyniki uzyskane w złożonych, praktycznych zadaniach programistycznych mają potwierdzać potencjał takiego podejścia.
Modele dostępne do lokalnego wdrożenia
Modele Nemotron są udostępniane wraz z otwartymi wagami, zbiorami danych i procedurami treningowymi. Ma to zapewniać organizacjom możliwość kontrolowania sposobu dostosowania modeli do konkretnych procesów branżowych oraz ich wdrażania w miejscu przechowywania aplikacji i danych.
Do dostosowywania, oceny i optymalizacji modeli może być wykorzystywane środowisko NVIDIA NeMo. Rozwiązania mogą być następnie wdrażane w infrastrukturze spełniającej wymagania dotyczące regulacji, suwerenności technologicznej oraz lokalizacji danych.
Modele Nemotron są dostępne za pośrednictwem platform Hugging Face, ModelScope, OpenRouter i build.nvidia.com, jako mikrousługi NVIDIA NIM, a także poprzez partnerów chmurowych, dostawców platform inferencyjnych i operatorów usług chmurowych.
Źródło: NVIDIA
