Попитайте каквото и да е за тази база знания…локален GPU
Асистент от клас ChatGPT върху вашите договори, политики, чертежи, електронни таблици и сканове, който работи на една GPU машина във вашата мрежа или във вашия собствен EU tenant. Всеки отговор цитира страницата, от която идва. Нито документ, нито въпрос, нито отговор стига до API на трета страна.
Илюстративен разговор върху измислени документи. Истинският асистент работи върху вашите файлове в двуседмичен пилот.
Частният асистент не е чатбот на сайта. Това е колегата, който е прочел всичко и винаги показва откъде идва отговорът.
«Кои споразумения се подновяват автоматично през това тримесечие?» «Къде приемаме неограничена отговорност?» Условия, срокове, рискове и различия в целия архив на договори, с клаузата на екрана.
Отпуски, командировки, снабдяване, безопасност. Новите служители питат асистента вместо тримата, които знаят. Отговорите остават съгласувани с текущата версия на политиката.
Хиляди сканирани страници на два езика. «Момент на затягане за болтовете M20 на задвижването на пещта?» отговорено от ръководството, със страницата, показана на техника.
«Продажби към Print Co през Q2 по продукти.» Асистентът чете таблиците, които вече водите, и отговаря с числата и листа, от който идват.
Отговор на търг, резюме на отчет от 90 страници, чернова на клауза във вашия фирмен стил. Моделът работи от вашите документи, а не от интернет.
Диктувани бележки от проверки и записи от срещи се транскрибират локално и се записват в същата база с търсене.
Демонстрационният корпус за разговор е малък: два или три сценария върху вашите файлове, таблица Excel, набор договори, сканиран архив.
Запишете демоОблачните асистенти обещават да не се обучават върху вашите данни. Нашите не могат да ги видят. Целият стек, от теглата на модела до векторния индекс, работи върху хардуер, който притежавате, или в tenant, който контролирате.
Четири етапа, около шест седмици, върху вашите документи. Вие оценявате отговорите, не нашите слайдове.
Кои бази знания, кой какво може да вижда, къде се намират документите, кои системи да се свържат. Оразмеряване и поръчка на хардуер.
Вашите реални файлове: договори, Excel, сканове, гласов материал. Индексирани на машината, на вашата площадка или във вашия EU tenant.
Вашите хора задават реалните си въпроси. Заедно измерваме качеството на отговорите, коректността на цитатите и скоростта и го записваме.
Интеграции, групи за достъп, обучение на екипа, предаване на мониторинга. Поддръжка и обновяване на моделите на месечна основа.
Това направление е работещ прототип, не продукт със сто внедрявания. Ето какво означава това.
Стекът работи от край до край на нашия GPU и е оценен върху реален корпус от няколкостотин страници. Още не е работил месеци в мрежата на клиент. Показваме го на живо и определяме цената на пилота съответно.
Една машина клас DGX Spark или равностоен сървър, купен от вас и притежаван от вас. Ние определяме конфигурацията, вие запазвате машината. Без нея гаранцията за поверителност не съществува.
Чистите PDF отговарят добре. Избледнелите сканове и ръкописните бележки първо минават през процеса Document AI. Измерваме върху вашия корпус в пилота, преди да обещаем каквото и да е.
Асистентът отговаря от вашия архив. Ако отговорът е само в нечия глава, той го казва, вместо да измисля. В това е смисълът на цитатите.
Те работят в чужд облак по договор, който казва, че няма да злоупотребяват с вашите данни. Това работи на вашия хардуер, затова въпросът не възниква. Вие също избирате и закрепвате модела, и няма такса на потребител или на токен.
Да, във вашия собствен EU tenant върху GPU instance, който контролирате. Архитектурата е идентична; разликата е кой притежава хардуера.
Всеки езиков модел може. Този е длъжен да цитира откъса, който е използвал, и му е казано да каже «няма го в документите», когато извличането не намери нищо релевантно. Грешните отговори стават видими и се поправят при оценката на пилота, а не се откриват в експлоатация.
Моделите и векторните представяния са многоезични; корпусът, върху който оценявахме, не беше на английски. Вашите езици са част от оценката на пилота.
GPU машината е еднократна покупка, която притежавате. Пилотът е с фиксиран обхват. След това месечна такса за поддръжка и обновяване на моделите, без такси на токен.
Тридесет минути. Показваме асистента на живо, обсъждаме кои документи да влязат първи и ви казваме честно дали частната система се изплаща за вашия мащаб.
Запишете разговор с Артем