Technologijos, slypinčios už privataus DI, kuris atlieka darbą
BrainOutput — viena pokalbių sąsaja, veikianti jūsų pačių įrangoje arba privačioje debesijoje. Ji dirba su bet kuriu modeliu, kiekvieną užduotį nukreipia į tinkamą modelį ir išsaugo ilgalaikę darbo atmintį. Šiame puslapyje paaiškinama, kaip: maršrutizavimas, rinkinys, atmintis ir audito žurnalas.
Modelių parinkimas pagal konfidencialumą
Kiekviena užklausa priskiriama jautrioms arba nejautrioms. Kur užklausa keliauja, lemia ši klasė, o ne modelio tiekėjas.
Jautrūs duomenys lieka privatūs
Klientų bylos, sutartys, apskaita, sveikatos duomenys, svečių duomenys: į šias užklausas atsako privatus modelis, jūsų mašinoje arba jūsų privačioje debesijoje. Jos niekada neišeina į išorę.
Nejautrūs keliauja ten, kur prasminga
Viešas tekstas, bendro pobūdžio juodraštis: jie gali būti perduoti pigesniam ar galingesniam debesijos modeliui — bet tik tada, kai tai leidžia jūsų politika.
Politiką nustatote jūs
Maršrutizavimo taisyklės yra jūsų — kiekvienai komandai ir kiekvienam naudojimo atvejui. Naujame diegime viskas lieka privatu; debesijos modelis naudojamas tik tada, jei jį įjungiate.
Jūsų jautrus darbas niekada neišeina į išorę; visa kita keliauja ten, kur pigiausia ar geriausia — tik jums leidus.
Rinkinys, komponentas po komponento
Kiekvienas komponentas atlieka vieną darbą ir gali būti pakeistas neperstatant likusių. Niekas rinkinyje nepririša jūsų prie vieno DI tiekėjo.
- ĮrenginiaiOpenClawjūsų kompiuteriai ir telefonai
- SąsajaBrainOutput pokalbissukurtas LibreChat pagrindu
- OrkestravimasOrkestratoriusPaperclip · planuoja, sekaAgentaiOpenCode · izoliuotos darbo erdvės
- Atmintiskiekvienam naudotojui, pokalbyjekiekvienam projektui, lentoježinios, failuose
- Modelių šliuzasModelių šliuzaspastovūs slapyvardžiai + maršrutizavimas pagal konfidencialumą
- ModeliaiVietiniai modeliaiatvirųjų svorių · vLLMPrivati debesijadedikuota inferencijaDebesijos modeliai (BYOK)tik jei leidžia jūsų politika
LibreChat — sąsaja
Viena pokalbių sąsaja visai komandai: pokalbiai, agentai, failai, asmeninės naudotojų paskyros.
Jūsų komanda išmoksta vieną įrankį. Kiekviena galimybė — platforma ir visi jos priedai — naudojama iš to paties pokalbio, o ne iš kito portalo.
Paperclip orkestratorius — įmonės stuburas
Planuoja darbą, skaido jį į užduotis, skiria jas agentams ir viską seka lentoje.
Ilgi, tikri projektai įvykdomi iki galo — ne vienkartiniai atsakymai. Kiekviena užduotis, sprendimas ir komentaras įrašomi, todėl darbą pagal konstrukciją galima audituoti.
OpenCode agentai — vykdytojai
DI agentai, vykdantys užduotis: rašantys kodą, analizuojantys dokumentus, rengiantys rezultatus.
Kiekvienas agentas dirba izoliuotoje darbo erdvėje, savo atšakoje. Darbas peržiūrimas ir suliejamas kaip bet kuriame profesionaliame inžineriniame procese — joks agentas tiesiogiai nekeičia gamybinės aplinkos.
OpenClaw — įrenginiai
Prijungia kompiuterius ir telefonus prie platformos.
Darbas keliauja kartu su jumis per jūsų įrenginius, o ne gyvena vienoje naršyklės kortelėje.
Modelių šliuzas ir slapyvardžiai — komutatorius
Vienas šliuzas kreipiasi į kiekvieną modelį pastoviu slapyvardžiu.
Modeliai keičiami — dėl kainos, greičio ar geresnės versijos — nekeičiant nė vienos darbo eigos. Slapyvardis lieka; už jo esantį modelį pasirenkate jūs.
Vietinė vLLM inferencija — privatus variklis
Atvirųjų svorių modeliai, aptarnaujami vietoje jūsų įrangoje per vLLM.
Į jautrų darbą atsakoma namuose, beveik neribotai naudojant už fiksuotą kainą — jokio skaitiklio už kiekvieną žetoną jūsų konfidencialiems duomenims.
BYOK — jūsų raktai, jūsų debesijos modeliai
Naudokite savo raktus debesijos modeliams, kuriuos leidžia jūsų politika.
Išlaikote esamus santykius ir sutartis su tiekėjais. Niekada neperparduodame žetonų ir niekada nestojame tarp jūsų ir jūsų modelių tiekėjų.
Atminties valdymas
DI, kuris tarp sesijų viską pamiršta, negali atlikti tikro darbo. BrainOutput atmintį laiko trijuose aiškiuose sluoksniuose — visada žinote, kas įsimenama ir kur.
Pokalbių atmintis, kiekvienam naudotojui
Kiekvienas asmuo pokalbyje turi savo atmintį: nuostatas, kontekstą, vykdomą darbą. Ji priskirta paskyrai ir pagal nutylėjimą nėra bendrinama.
Projekto atmintis, lentoje
Ilgalaikis darbas gyvena kaip užduotys, dokumentai ir sprendimai orkestratoriaus lentoje. Projektas išlieka ilgiau nei bet kuris pavienis pokalbis — ir bet kuris pavienis modelis.
Žinios, failuose
Ilgalaikės žinios įrašomos į versijuojamus failus, o ne užrakinamos modelio konteksto lange. Jas galima ieškoti, peržiūrėti, taisyti ir audituoti kaip bet kurį įmonės dokumentą.
Ribota pagal konstrukciją
Agentai skaito tik tai, ko reikia užduočiai, o buferiai ir sąrašai aiškiai apriboti. Be ribų auganti atmintis yra nuotėkis; mūsiškė turi ribas, kurias galite patikrinti.
Saugumas ir auditas
Privatus DI nėra pažadas reklaminiame puslapyje. Tai mechanizmų rinkinys, kurį galite patikrinti.
- Duomenų buvimo vieta, kurią pasirenkate jūs. Platforma veikia jūsų įrangoje arba jūsų privačioje debesijoje. Į jautrias užklausas atsakoma ten; kas gali išeiti į išorę, lemia maršrutizavimo politika, o ne tiekėjo paslaugų sąlygos.
- Išsamus audito žurnalas. Kiekviena orkestratoriaus vykdoma užduotis turi savo istoriją: kas paprašė, kuris agentas vykdė, kas pasikeitė, kurioje atšakoje. Bet kurį darbą galite atkurti ir vėliau.
- Peržiūra ten, kur svarbu. Rizikingi pakeitimai — diegimas, slaptieji duomenys, autentifikavimas, infrastruktūra, asmens duomenys — prieš suliejimą pereina peržiūros etapą. Įprastas darbas užbaigiamas remiantis vykdytojo įrodymais.
- Apribota, atšaukiama prieiga. Agentai veikia su apribotais prisijungimo duomenimis, izoliuotose darbo erdvėse, laikydamiesi biudžeto ir patvirtinimo vartų su avariniais jungikliais. Joks agentas neturi nuolatinės prieigos prie jūsų gamybinių sistemų.
- Jokio pririšimo. Rinkinys nepriklauso nuo konkretaus LLM, ir kiekvieną komponentą galima pakeisti. Atsisakius bet kurio tiekėjo — įskaitant mus — niekada nereikia perstatyti savo darbo eigų.
Pamatykite rinkinį, atliekantį tikrą darbą
Parodysime maršrutizavimą, atmintį ir audito žurnalą veikiančioje sistemoje — su demonstraciniais duomenimis, niekada ne kliento.