Je wilt AI gebruiken. Je wilt alleen niet je offertes, klantgegevens en interne documenten ergens uploaden en dan maar hopen dat het goed zit.
Een aanbieder kan uitleggen wat er met je gegevens gebeurt. Maar daarmee kun je als ondernemer nog niet zelf volgen wat er achter de schermen wordt verwerkt, opgeslagen of doorgestuurd. Als dat je tegenhoudt, heb je weinig aan nóg een geruststellende verkooppagina.
Je wilt weten of het ook anders kan.
Dat kan. Je kunt een geschikt AI-model binnen je eigen bedrijfsomgeving laten draaien. Op een server op locatie, of op gehuurde infrastructuur die voor jouw toepassing is ingericht. Je vragen en documenten hoeven dan niet naar een externe dienst zoals ChatGPT of Claude.
In deze blog beantwoorden we drie vragen:
- Wat kun je met AI op je eigen server, zonder bedrijfsgegevens naar een externe AI-dienst te sturen?
- Waarom hoeft een eigen AI-oplossing niet meteen ingewikkeld of peperduur te zijn?
- Moet die server bij jou staan, of kan het ook zonder hardware op kantoor?
1. Wat kun je met AI op je eigen server?
Je kunt interne documenten laten doorzoeken, teksten laten samenvatten en gegevens uit aanvragen laten halen, terwijl de verwerking binnen jouw bedrijfsomgeving blijft.
Daarvoor draait een geschikt AI-model op jouw server. Het model is de software die bijvoorbeeld tekst interpreteert en antwoorden formuleert. Je kiest een bestaand model dat je zelf mag en kunt draaien, en bouwt daar een bruikbare toepassing omheen.
Je begint dus niet met het trainen van een compleet nieuwe AI. Je gebruikt een model dat al is ontwikkeld.
Daarmee kun je bijvoorbeeld interne informatie laten opzoeken, documenten samenvatten of gegevens uit aanvragen laten halen. Of dat goed genoeg werkt, test je met jouw documenten en jouw vragen.
Je eigen assistent voor interne informatie
Stel dat Linda op de binnendienst werkt. Een klant vraagt welke onderhoudsafspraken voor zijn machine gelden. Linda moet daarvoor een offerte, een handleiding en een aanvullend document nalopen.
Een interne AI-assistent kan de relevante passages opzoeken en een antwoordvoorstel met verwijzingen naar die documenten klaarzetten. Linda controleert het voorstel en verstuurt het antwoord.
Die documenten hoeven voor deze verwerking niet naar een externe AI-dienst. Het opzoeken en beantwoorden kan binnen dezelfde afgeschermde omgeving gebeuren.
Ook hoeft het model daarvoor niet opnieuw op alle bedrijfsdocumenten te worden getraind. Je kunt de toepassing zo bouwen dat die per vraag de juiste informatie opzoekt en aan het model meegeeft. Nieuwe afspraken werk je dan bij in de bron, in plaats van telkens een nieuw trainingsproject te beginnen.
Zo kan AI helpen bij het werk dat nu tijd kost, terwijl je grip houdt op de informatie die daarvoor wordt gebruikt.
Een eigen chatvenster is nog geen eigen AI
Een chatbot met jouw logo kan achter de schermen nog steeds iedere vraag doorsturen naar een externe aanbieder. Hetzelfde geldt voor een applicatie die op jouw server staat, maar voor de AI-verwerking een clouddienst gebruikt.
Wil je bedrijfsgegevens binnen je eigen omgeving houden, dan moet ook het model daar draaien. En hetzelfde geldt voor de onderdelen die documenten uitlezen, doorzoekbaar maken en opslaan.
Een concreet detail: Ollama, software waarmee je AI-modellen kunt draaien, heeft zowel lokale mogelijkheden als cloudfuncties. Die cloudfuncties kun je expliciet uitschakelen. Alleen zeggen dat je Ollama gebruikt, bewijst dus nog niet hoe de toepassing met je gegevens omgaat. Ollama legt dit uit in zijn documentatie.
De vraag is niet alleen waar je chatbot staat. De vraag is waar jouw gegevens tijdens het hele proces terechtkomen.
Bij een volledig interne oplossing kun je onnodige externe verbindingen blokkeren en de gegevensstromen testen. Dat geeft je iets concreets om te controleren, naast de afspraken met de partijen die de omgeving beheren.
2. Waarom hoeft een eigen AI-oplossing niet peperduur te zijn?
Omdat jouw bedrijf waarschijnlijk geen AI nodig heeft die alles kan.
Misschien wil je dat medewerkers sneller informatie vinden. Of dat binnenkomende aanvragen worden klaargezet voor controle. Dat is een andere opdracht dan een algemene chatbot bouwen voor duizenden mensen tegelijk.
Er bestaan AI-modellen in verschillende formaten. Google beschrijft binnen zijn Gemma-modellen bijvoorbeeld varianten voor laptops, desktops en kleine servers. Een lokaal model vraagt dus niet automatisch om een complete serverruimte. Bekijk de verschillende toepassingen van Gemma.
Dat betekent niet dat iedere oude kantoorcomputer geschikt is. Het betekent dat je de benodigde hardware pas kiest als je weet wat de toepassing moet doen.
Begin met één taak die iets oplevert
Voor de assistent van Linda zouden we eerst een beperkte verzameling documenten gebruiken. Kan de toepassing de juiste afspraken terugvinden? Verwijst het antwoord naar de goede bron? En hoeveel controlewerk houdt Linda over?
Pas als dat werkt, is uitbreiden interessant.
Zo voorkom je dat je vooraf veel geld uitgeeft aan rekenkracht voor een toepassing waarvan de waarde nog onduidelijk is. Een groter model of een duurdere server lost een slecht uitgewerkt proces namelijk niet op.
Waar betaal je dan wel voor?
Voor een eenvoudige eerste toepassing kun je rekenen op een indicatief ontwikkelbudget vanaf circa €3.000, exclusief btw. Denk aan één afgebakende taak met een bestaand model en een beperkte verzameling documenten. Hardware of hosting en het beheer staan daar los van.
Dat is een startindicatie. Een toepassing met uitgebreide koppelingen, verschillende gebruikersrollen of veel gelijktijdige gebruikers vraagt meer werk. Daarom brengen we de gewenste werking en terugkerende kosten vooraf in kaart.
De kosten vallen grofweg in drie delen uiteen:
- De toepassing bouwen: het model aansluiten, documenten beschikbaar maken, toegangsrechten regelen en eventuele koppelingen bouwen.
- De verwerking laten draaien: geschikte hardware op locatie of een gehuurde server met voldoende rekenkracht.
- Het geheel onderhouden: updates, beveiliging, back-ups en controle of de toepassing goed blijft werken.
Wat je nodig hebt, hangt vooral af van de hoeveelheid werk. Vijf medewerkers die af en toe een vraag stellen, vragen iets anders van een server dan honderd medewerkers die gelijktijdig lange documenten laten verwerken.
Daarom kijken we bij Byte Me naar de kleinste oplossing die jouw taak aantoonbaar goed uitvoert. Daarna maken we zowel de ontwikkelkosten als de terugkerende kosten concreet.
Een eigen AI-oplossing is overigens niet automatisch goedkoper dan een koppeling met een externe AI-dienst. De winst kan juist zitten in de controle over je gegevens, waardoor je een toepassing wél verantwoord wilt inzetten. Die afweging hoort naast de prijs op tafel.
3. Moet een eigen AI-server op kantoor staan?
Nee. Je kunt kiezen waar je het model en de bijbehorende gegevens laat verwerken. Twee mogelijkheden zijn voor veel bedrijven relevant.
AI op locatie: de verwerking blijft binnen jouw netwerk
Het model en de benodigde software draaien op een computer of server bij jouw bedrijf. Medewerkers gebruiken de toepassing via het bedrijfsnetwerk of een beveiligde verbinding.
Dit kan passen als informatie binnen die locatie moet blijven of als je de hardware en het netwerk zelf wilt beheren. De AI-verwerking hoeft daarbij geen externe modeldienst te gebruiken.
Je moet wel regelen wie de server onderhoudt en wat er gebeurt bij een storing. Een computer op kantoor blijft een computer die updates, stroom en beheer nodig heeft.
Een gehuurde AI-server: wel een eigen omgeving, geen hardware op kantoor
Je kunt het model ook laten draaien op gehuurde infrastructuur. Medewerkers werken via een beveiligde verbinding met een afgeschermde toepassing voor jouw bedrijf.
Daarbij is het goed om het woord ‘eigen’ even uit te pakken. Op een virtuele server heb je een afgescheiden omgeving, terwijl de fysieke hardware ook door anderen kan worden gebruikt. Bij een dedicated fysieke server is de volledige machine voor jouw organisatie gereserveerd.
In beide gevallen kan het model binnen die omgeving draaien, zonder jouw documenten door te sturen naar een aparte AI-dienst.
De hostingpartij blijft natuurlijk betrokken bij de infrastructuur. Daarom spreken we ook af waar gegevens en back-ups staan, wie toegang kan krijgen en wie het beheer uitvoert. Een gehuurde server heeft nog steeds een adres en een beheerder; het woord ‘privé’ verandert dat niet.
Voor jouw medewerkers kan de toepassing er hetzelfde uitzien als bij een server op locatie. Het verschil zit vooral in waar de verwerking plaatsvindt en wie waarvoor verantwoordelijk is.
Je kunt beheer uitbesteden en toch keuzes houden
Je hoeft als ondernemer niet zelf servers te onderhouden om zeggenschap te houden over je AI-oplossing.
Je kunt de bouw en het beheer laten verzorgen, met duidelijke afspraken over toegang, opslag, onderhoud en het meenemen van je gegevens als je later wilt overstappen.
Daar hoort ook bij dat medewerkers via de AI-assistent alleen informatie kunnen opvragen die zij mogen zien. Linda krijgt toegang tot de relevante klantafspraken. Dat geeft haar nog geen toegang tot alle personeelsdocumenten.
Een eigen server is dus een manier om controle te organiseren. De beveiliging en toegangsrechten moeten we nog steeds goed bouwen.
Wat kan Byte Me voor jouw bedrijf bouwen?
Byte Me kan een AI-toepassing bouwen die binnen jouw eigen of gehuurde omgeving werkt en aansluit op de software die je al gebruikt.
We beginnen bij een concrete taak. Welke informatie hebben medewerkers nodig? Wat kost nu tijd? En welke gegevens wil je binnen de afgesproken omgeving houden?
Daarna kiezen en testen we een geschikt model, richten we de verwerking in en bouwen we waar nodig koppelingen met bestaande systemen. Vooraf maken we duidelijk wat de toepassing kan, welke controle nodig blijft en wat ontwikkeling en beheer kosten.
Je hoeft daarvoor niet eerst je hele bedrijf opnieuw in te richten. Een afgebakende toepassing is vaak de beste manier om te ontdekken wat het oplevert.
Je wilt slimmer werken. Daarvoor hoef je je ongemak over het delen van bedrijfsgegevens niet weg te slikken.
Wil je weten wat binnen jouw bedrijf mogelijk is? Vraag een gratis Meekijkdag aan bij Byte Me. We kijken waar je tijd kunt winnen en welke oplossing past bij jouw werk en je gegevens.
Byte Me, Change Everything