Verhalenmaker met lange bronnen
Je wilt tijdens een lokale sessie veel tekst kunnen raadplegen. Bepaal daarom hoe de software met context en geheugen omgaat; Ollama licht toe dat een grotere context meer geheugen vraagt.
Kies eerst de verhaalsoftware en bepaal of je lange teksten tegelijk in de modelcontext wilt gebruiken of relevante passages wilt laten terugzoeken. Volgens Ollama vraagt een langere context meer geheugen; embeddings en retrieval zijn een andere werkwijze, en een grotere SSD verhelpt op zichzelf geen geheugentekort. Controleer daarna per uitvoering het besturingssysteem, het geheugen, de opslag en wat is inbegrepen.
Je wilt tijdens een lokale sessie veel tekst kunnen raadplegen. Bepaal daarom hoe de software met context en geheugen omgaat; Ollama licht toe dat een grotere context meer geheugen vraagt.
Je bewaart modellen en omvangrijke bronbestanden lokaal en wilt vooraf nagaan hoeveel opslagruimte je nodig hebt. Ollama vermeldt dat gedownloade modellen extra schijfruimte kunnen innemen.
Je keuze hangt af van Windows- of macOS-ondersteuning en van de vraag of je een complete pc of een barebone-configuratie zoekt. Controleer de vereisten van je eigen software bij de exacte uitvoering.
Bepaal eerst hoe je bestanden in de sessie gebruikt; vergelijk daarna het geheugen, de opslag en de volledigheid van de configuratie.
| Aandachtspunt | Waarop letten | Voor wie is dit belangrijk? |
|---|---|---|
| Tekst tegelijk in context | Controleer welk model en welke context je gebruikt, en of de software passages kan terugzoeken in plaats van alle tekst tegelijk aan te bieden. | Als ik lange passages tegelijk wil aanbieden, wil ik weten hoeveel context het model aankan en hoeveel geheugen dat vraagt; ongeveer 33% van de consumenten heeft dit als voornaamste aankoopzorg. |
| Respons tijdens de sessie | Controleer de geheugenbehoefte van het gekozen model en de ondersteuning van de exacte GPU en softwareomgeving. | Wie tijdens een lokale sessie vooral een vlotte reactie wil, zal de model- en softwarecombinatie vooraf willen toetsen; ongeveer 27% van de consumenten geeft deze behoefte de hoogste prioriteit. |
| Ruimte voor bestanden en modellen | Tel bronbestanden en modellen afzonderlijk mee en controleer de meegeleverde SSD en mogelijke uitbreidingsruimte. | Als mijn lokale archief groeit, wil ik ook ruimte houden voor modellen naast de bronbestanden; ongeveer 20% van de consumenten stelt opslag en uitbreiding voorop. |
| Software en complete levering | Controleer of je software op het besturingssysteem werkt en welke onderdelen de concrete uitvoering bevat, zoals RAM, SSD en besturingssysteem. | Wie een passende softwareomgeving nodig heeft en liever weet wat direct is inbegrepen, kijkt eerst naar compatibiliteit en volledigheid; ongeveer 13% van de consumenten maakt dit de belangrijkste aankoopzorg. |
| Totale configuratie en service | Vergelijk uitvoeringen met de benodigde onderdelen en bekijk welke service de verkoper aanbiedt naast je wettelijke rechten. | Als ik de totale aanschaf en nazorg wil overzien, wil ik de complete configuratie en de servicevoorwaarden naast elkaar leggen; ongeveer 7% van de consumenten zet dit bovenaan. |
Opslagruimte bewaart bestanden en modellen, terwijl een langere context afzonderlijk meer geheugen vraagt. Een ruime SSD zegt dus niet hoeveel tekst de gekozen combinatie tegelijk kan verwerken.
Controleer zowel de beschikbare opslag als de geheugenbehoefte van je model en context.
Een grotere context en het terugvinden van relevante passages zijn verschillende werkwijzen. Embeddings en retrieval vereisen ondersteuning van de gebruikte software.
Controleer vóór aankoop hoe je applicatie bestanden inleest, selecteert en terugvindt.
Een barebone kan zonder RAM, SSD of besturingssysteem worden geleverd, terwijl een gespecificeerde pc deze onderdelen al kan bevatten. De concrete uitvoering bepaalt wat je nog nodig hebt.
Controleer per uitvoering welke onderdelen zijn inbegrepen voordat je configuraties vergelijkt.
Bij een barebone kunnen installatie en het aanvullen van ontbrekende onderdelen extra werk vragen; controleer bijvoorbeeld of geheugen, opslag en besturingssysteem zijn inbegrepen.
De Mac mini M6 is een compacte macOS-route voor wie de geheugen- en SSD-configuratie vooraf wil kiezen.
De HP ProDesk 4 Mini G1i is een vooraf geconfigureerde zakelijke Windows-desktop; uitvoering E59BWEA#ABH is een concrete Nederlandse variant.
De NUC 14 Pro is een route om te bekijken als je een mini-pc wilt configureren.
De UM890 Pro is een optie om te vergelijken wanneer geheugen, SSD-posities en aansluitmogelijkheden meewegen.
Deze Joybuy-producten zijn mini-pc's met uiteenlopende vermelde geheugen-, opslag- en besturingssysteemconfiguraties. Gebruik die gegevens om opties voor je software en lokale bestanden voor te selecteren, maar controleer de vereisten van je gekozen model en applicatie afzonderlijk.
Geen afbeelding beschikbaar
Een optie om te bekijken als je een mini-pc met Windows zoekt; controleer welke processorvariant en softwarevereisten voor de aangeboden uitvoering gelden.
Windows 11; 8 GB DDR4; 256 GB SATA-SSD; Bluetooth 5.2; Wi-Fi 5.
Geen afbeelding beschikbaar
Een optie om te vergelijken wanneer je een mini-desktop met Windows wilt; controleer of je verhaalsoftware op Windows 11 Home werkt.
16 GB LPDDR5X; 512 GB PCIe 4.0-SSD; Intel Graphics; Wi-Fi 7.
Geen afbeelding beschikbaar
Deze mini-pc is een optie om te onderzoeken voor een lokaal project; controleer of de vermelde NVIDIA DGX OS en de vereisten van je software bij je workflow passen.
128 GB RAM; 4 TB SSD; NVIDIA DGX OS.
Geen afbeelding beschikbaar
Een optie om te vergelijken als je een mini-pc met Windows zoekt; controleer de compatibiliteit van je eigen applicatie met Windows 11 Home.
16 GB LPDDR5; 512 GB M.2 NVMe-SSD; Wi-Fi 6; Bluetooth 5.2.
Geen afbeelding beschikbaar
Een optie om te vergelijken wanneer je een mini-pc met Windows zoekt; controleer of Windows 11 Pro en de overige configuratie aansluiten op je software.
16 GB LPDDR4; 512 GB SSD; Wi-Fi 5; Bluetooth 4.2.
Nee, niet noodzakelijk. Als je applicatie retrieval ondersteunt, kunnen embeddings helpen om relevante passages terug te vinden. Wil je juist meer tekst tegelijk aanbieden, dan vraagt een grotere context volgens Ollama meer geheugen.
Controleer de opslagruimte naast die voor je bronbestanden. Ollama vermeldt dat gedownloade modellen extra schijfruimte kunnen innemen; controleer ook het besturingssysteem en de vereisten van je eigen applicatie.
Niet noodzakelijk. De door ASUS beschreven NUC 14 Pro-kit wordt zonder geheugen, opslag en vooraf geïnstalleerd besturingssysteem geleverd. Controleer bij de specifieke uitvoering wat wel is inbegrepen.
Volgens de Rijksoverheid heb je bij een consumentenkoop recht op een goed product en moet je bij problemen de verkoper aanspreken. Bij koop op afstand geldt in veel gevallen een bedenktijd van 14 dagen; controleer welke uitzonderingen en voorwaarden op de concrete aankoop van toepassing zijn.
Lokaal draaien is op zichzelf geen vrijstelling van privacyregels. De Autoriteit Persoonsgegevens zegt dat een bedrijf of organisatie dat persoonsgegevens met een AI-systeem verwerkt vooraf moet vaststellen of het aan de AVG kan voldoen. Of dit voor jouw bestanden en gebruik geldt, hangt af van de concrete situatie.