Tensorgero NABS $ 7,3 miljoen zaden om de vernielde wereld van Enterprise LLM -ontwikkeling op te lossen

Tensorgero’s visie op mede-oprichter en CTO Biraj Mehta afgeleid van de verouderde achtergrond bij het leren van versterking voor nucleaire fusiereactoren. Tijdens zijn promotie Carnegie MellonMehta werkte in het Department of Energy Research waar er een voertuig was voor gegevens om gegevens te verzamelen – gedurende 5 seconden $ 30.000 uitgeven, “legde hij uit in een recent interview met VentureBit.

Mehta zei: “Dit probleem leidt tot enorme hoeveelheden angst op waar we ons kunnen concentreren op onze beperkte middelen.” “We gingen gewoon een handvol beproevingen uitvoeren, dus de vraag werd: wat is de meest waardevolle plek die we kunnen verzamelen van de meest waardevolle plek?” Deze ervaring is de vorm van de belangrijkste filosofie van Tensoro: om de waarde van elke gegevenspunten te maximaliseren om de AI -systemen continu te verbeteren.

Insight Mehta en mede-oprichter Gabriel Beanconi, voormalig Chief Product Officer LED Ondo Finance (Een gedecentraliseerd financieringsproject met meer dan $ 1 miljard activa in middelen in beheersing), LLM-applicaties worden geleerd om te herstellen als een probleem van het herstellen van leren waar systemen hebben geleerd van real-world respons.

“In hun brede context lijken LLM -applicaties op leerproblemen met versterking”, legt Mehta uit. “Je doet veel oproepen op een machine learning -model met structurele ingangen, krijgt gestructureerde output en krijg uiteindelijk enkele beloningen of reacties. Dit is gedeeltelijk als het waarneembare cijfer voor mij”

Waarom initiatieven de gecompliceerde integriteit van de verkoper graven voor de uniforme AI -infrastructuur

Voor het creëren van LLM-applicaties, bedrijven voor conventionele methoden voor bedrijven om tal van speciale tools van verschillende leveranciers te integreren-de behoefte-mel gateway, observatieplatform, evaluatiekader en subtiel-chirurgische diensten. Tensoro Deze mogelijkheden worden gecombineerd in een enkele open-source-stapel die is ontworpen om samen te werken.

“De meeste bedrijven hadden niet het gedoe van het integreren van al deze tools, en zelfs de gefragmenteerde oplossingen waren voorbij, omdat deze tools niet waren ontworpen om goed met elkaar te werken,” zei Beanconi. “Dus we realiseerden ons dat er een kans is om een product te maken dat deze reactielus in productie mogelijk maakt.”

De belangrijkste innovatie van het platform is het creëren van een “data and learning floyohill” van de oprichters – een reactielus die de productiemetriek en menselijke reactie verandert in slimme, snelle en goedkope modellen. Roest is ingebouwd voor prestaties, Tensorzaro bereikt sub-mileconde legendarische overhead en ondersteunt alle grote LLM-leveranciers via een uniforme API.

Major Bank- en AI -startups creëren al productiesystemen in Tenszro

De procedure heeft al belangrijke initiatieven aangetrokken. Een van de grootste banken in Europa gebruikt Tensorzaro om de code-changlog-generatie te automatiseren, terwijl talloze AI-FIST-startups uit de serie bij Series A het platform hebben geïntegreerd in verschillende industrieën, waaronder gezondheidszorg, financiën en consumententoepassingen.

“Het enthousiasme voor adoptie van zowel de open source -gemeenschap als het initiatief was ongelooflijk.” “We hebben het geluk om bij te dragen aan enkele tientallen ontwikkelaars wereldwijd en het is opwindend wanneer we de Cutting-EZ LLM-applicaties zien in de Frontier AI-startups en grote bedrijven.”

De klant van het bedrijf breidt het bedrijf uit naar de belangrijkste financiële instellingen, van de basisstartups, geschilderd door zowel technische mogelijkheden als de open source van het platform. Voor initiatieven met strikte toestemmingsvereisten biedt de mogelijkheid om tensoro in hun eigen infrastructuur te leiden belangrijke controle over gevoelige gegevens.

Hoe Tensorzro Langchen en ander AI -framework op Enterprise Scale overschrijdt

Tensoro Scheidt zich van bestaande oplossingen zoals Langchain En Litellom Focus tot het einde van het einde van het einde en de inzet van productiekwaliteit. Hoewel veel frameworks snel prototyperen, raken ze vaak de schaalbaarheidsplafonds die bedrijven dwongen hun infrastructuur opnieuw op te bouwen.

Bianconi legde uit: “Er zijn twee dimensies om na te denken.” Ten eerste zijn er verschillende projecten die erg goed zijn om snel te beginnen en je kunt daar heel snel een prototype hebben, maar je kunt een prototype hebben

De structurele methode van het platform voor gegevensverzameling maakt meer geavanceerde optimalisatietechnieken mogelijk. In tegenstelling tot de traditionele bewakingsapparatuur die ruwe tekstinvoer en uitgangen opslaan, behoudt Tensorzro structurele gegevens over variabelen die in elke schatting zijn verdwenen, waardoor modellen met verschillende methoden worden hersteld en testen.

Roest-aangedreven prestaties bieden de submilecandvertraging in meer dan 10.000 vragen per seconde

De prestaties zijn beschouwd als een origineel ontwerp. In de benchmark heeft de op roest gebaseerde gateway van Tensorggero minder dan 10.000 query per seconde toegevoegd om minder dan 1 milliseconde toe te voegen aan de 99e persentiel. Het is vergelijkbaar met op Python gebaseerde opties zoals Litellm, die 25-100x verder naar de breedtegraad kunnen toevoegen aan veel minder throputniveau.

“Litellm (Python) voegt 20-5x+ meer P99-vertraging toe in 5 kopjes tot 10.000 kopjes,” noemden de oprichters de effectiviteit van hun roestimplementatie.

Open source strategie ontworpen om AI Seller Lock-In Fear te elimineren

Tensoro Het is een strategie die is ontworpen om vertrouwen te creëren met klanten waarschuwt met de beloofde lock-in toegewijd om het hoofdplatform volledig open source te houden zonder een betalingsfunctie. Het bedrijf is van plan te contant geld via een geëxploiteerde service die automatisch automatisch GPU exploiteert voor aangepaste modelopleiding en praktijkoptimalisatie -aanbevelingen.

“We realiseerden ons onmiddellijk dat we deze open source (initiatieven) moesten maken,” zei Beanconi. “In de toekomst zullen we in werkelijkheid minstens een jaar na nu terugkeren met de complementaire operatiedienst.”

De bediende service zal zich richten op automatisch intensieve aspecten van LLM-optimalisatie door de open-source kern te handhaven. Deze omvatten het uitvoeren van GPU -infrastructuur voor boetes, het uitvoeren van automatisch onderzoek en het geven van actief advies voor de ontwikkeling van modelprestaties.

Enterprise AI Infrastructure Rebuilding Organisation is de volgende sleutel voor

Verklaring Tensoro “LLMOPS” staat bovenaan de groeiende beweging om de uitdaging op te lossen – de operationele complexiteit van het beheren van AI -toepassing in productie. Aangezien initiatieven de groeiende AI laten zien als kritische bedrijfsinfrastructuur in plaats van experimentele technologie, blijft de vraag naar productietools versnellen.

Met het nieuwe fonds is Tensorzaro van plan de ontwikkeling van zijn open source -infrastructuur te versnellen wanneer zijn team wordt opgericht. Het bedrijf neemt momenteel New York aan en verwelkomt de open source -bijdrage van de ontwikkelaarsgemeenschap. Het oprichten van onderzoeksapparatuur wordt met name aangemoedigd om te ontwikkelen die snel onderzoek mogelijk maken op verschillende AI -toepassingen.

Mehta zei: “Ons uiteindelijke aspect is een gegevens en vlammen in staat om LLM -toepassingen uit te sluiten – een reactielus die de productiemetrische en humanitaire reactie verandert in slimme, snelle en goedkope modellen en agenten,” zei Mehta. “Als zodanig worden AI-modellen slimmer en nemen ze complexere werkstromen, je kunt er niet over ruzie maken; je moet dit doen in de context van hun echte gevolgen.”

Tensoro Snel En de initiële tractie voor ondernemingen suggereert dat de krachtmarkt geschikt is om een van de stressvolle uitdagingen van de moderne AI-ontwikkeling aan te gaan. Het open-source-systeem en prestaties van het bedrijf en de prestaties van het bedrijf kunnen de besluitvormende voordelen bewijzen in een markt waar de acceptatie van de ontwikkelaar vaak overblijft vóór de verkoop van de onderneming.

Voor nog steeds worstelende initiatieven om AI -toepassingen in de productie uit het prototype te verwijderen, biedt de geïntegreerde methode van Tensorggero een verplichte optie voor het huidige patchwork van speciale tools. Een industriële waarnemer vermeldt bijvoorbeeld dat het verschil tussen de constructie van AI-demo en de oprichting van de AI-activiteiten vaak infrastructuur en Tensorzaro wedden dat verenigde, op prestaties gebaseerde infrastructuur de basis zal zijn waarop de volgende generatie van de AI-bedrijven zal worden gebouwd.