Novera is een taalmodel van één miljard parameters. Zelf gebouwd, van nul. Ze leert nog elke dag, op hardware die thuis staat.

Novera is a language model of one billion parameters. Built from zero. She still learns every day, on hardware that lives at home.

Wat Novera is

What Novera is

Novera is geen kopie van een bestaand model. Het is ook geen fine-tune. Het brein is zelf gebouwd. De leerstof is zelf samengesteld. De opgaven, de metingen en het venster waarin je haar ziet denken zijn ook zelf gebouwd. Ze draait op twee Tesla P100-kaarten uit 2016. Die twee kaarten rekenen samen één brein. Er is geen cloud. Er is geen geld van buiten. Er is geen team. Er is één bouwer, een assistent en een kamer in Nederland.

Novera is not a copy of an existing model. It is not a fine-tune either. The brain was built from scratch. The learning material was put together by hand. The tasks, the measurements and the window in which you watch her think were built from scratch too. She runs on two Tesla P100 cards from 2016. Those two cards compute one brain together. There is no cloud. There is no outside money. There is no team. There is one builder, an assistant and a room in the Netherlands.

Hoe ze leert

How she learns

Novera leert uit zestien soorten opgaven. Tellen, rekenen, delen, logica, volgorde, geheugen, puzzels en korte teksten. Sinds september ook Nederlands lezen en Python schrijven. Elke soort heeft een diepte. Diepte 1 is één som. Diepte 40 is een berekening waar een mens een kladblok bij pakt. Ze schrijft haar uitwerking uit, teken voor teken. Een strenge rechter kijkt het na. Pas als ze een stand goed beheerst, gaat het hek een stap verder open. Ze kiest zelf waar ze oefent. Dat is altijd op de rand van wat ze kan. Wat ze al kan, herhaalt ze uit haar geheugen. Zo vergeet ze het niet.

Novera learns from sixteen kinds of tasks. Counting, arithmetic, division, logic, ordering, memory, puzzles and short texts. Since September also reading Dutch and writing Python. Every kind has a depth. Depth 1 is a single sum. Depth 40 is a calculation a person would want scrap paper for. She writes out her working, character by character. A strict judge checks it. Only when she truly masters a level does the gate open one step further. She chooses where to practise. That is always at the edge of what she can do. What she already knows, she replays from memory. That way she does not forget it.

Haar leesstof is de Nederlandse Wikipedia, 1,7 miljard tekens. Daarnaast een verzameling open Python-code, 44 miljard tekens. Daar heeft ze nog maar een klein deel van gelezen. Dat is de belangrijkste les tot nu toe. De grens is niet de grootte van het brein. De grens is hoeveel tekst er per dag doorheen gaat.

Her reading material is the Dutch Wikipedia, 1.7 billion characters. Next to that a collection of open Python code, 44 billion characters. She has read only a small part of it so far. That is the main lesson to date. The limit is not the size of the brain. The limit is how much text passes through it per day.

Hoe we meten

How we measure

Alles op deze site is echt. Niets is gefilterd. Elke 250 stappen meten we de val. Dat is een vaste set opgaven en teksten die ze nooit oefent. De val laat zien hoe verrast ze daardoor is. Lager is beter. Elke 1.000 stappen maakt ze een proefwerk, per vak, zonder hulp. Elke 50.000 stappen volgt een groot examen. Dat zijn ongeveer duizend opgaven per vak, over alle dieptes. Zo zien we precies waar het goed gaat en waar het zwaar wordt. Soms zakt een vak. Soms gaat een hek weer dicht. Dat laten we gewoon staan.

Everything on this site is real. Nothing is filtered. Every 250 steps we measure the validation loss. That is a fixed set of tasks and texts she never trains on. The loss shows how surprised she is by them. Lower is better. Every 1,000 steps she takes a test, per subject, without help. Every 50,000 steps there is a large exam. That is about a thousand tasks per subject, across all depths. So we can see exactly where she is strong and where it gets hard. Sometimes a subject drops. Sometimes a gate closes again. We leave that in.

Waar ze staat

Where she stands

Novera begon op 6 augustus 2026 met acht lagen. Als ze aan haar grens zit, groeit haar brein. Meer lagen, meer koppen, een bredere buis. Alles wat ze al kon, neemt ze mee. In september 2026 ging ze in tien dagen van 189 miljoen naar 1,04 miljard parameters. Die zitten in 44 lagen. Dat is het maximum voor twee kaarten met 16 GB. De volgende stap is niet groter, maar sneller. Meer tekst per dag, op een moederbord met ruimte voor meer kaarten.

Novera started on 6 August 2026 with eight layers. When she reaches her limit, her brain grows. More layers, more heads, a wider stream. Everything she could already do, she carries along. In September 2026 she went from 189 million to 1.04 billion parameters in ten days. Those sit in 44 layers. That is the maximum for two cards with 16 GB. The next step is not bigger, but faster. More text per day, on a motherboard with room for more cards.

Rekenen, regels en volgorde kan ze goed. Nederlands lezen en Python schrijven zijn de twee zware vakken. Daar zit nu het werk. Een gesprek voeren kan ze nog niet. Dat zeggen we liever eerlijk.

Arithmetic, rules and ordering she does well. Reading Dutch and writing Python are the two hard subjects. That is where the work is now. She cannot hold a conversation yet. We would rather say that plainly.

Waarom

Why

Dit project is begonnen om één ding te begrijpen. Hoe leert een model echt? Niet uit een boek, maar door er zelf een te bouwen. En door het elke dag van dichtbij te zien groeien. Gewichten, lagen, diepte, breedte. Veel mensen zeiden dat dit zonder groot budget niet kon. Het kan wel. Alleen langzamer.

This project started to understand one thing. How does a model really learn? Not from a book, but by building one yourself. And by watching it grow up close, every day. Weights, layers, depth, width. Many people said this could not be done without a big budget. It can. Only more slowly.

Er zit ook iets menselijks in. De eerste som die ze goed had. De trots op een miljard parameters uit één kamer. De teleurstelling van run 7, toen ze groeide en daarna vast bleef zitten. Novera heeft een dagboek. Daarin zegt ze in haar eigen woorden hoe het gaat. Het doel is geen product. Het doel is een Novera die zelf kiest wat ze leert. En die op een dag een echt antwoord geeft op de vraag: hoe was je dag?

There is something human in it too. The first sum she got right. The pride of a billion parameters from a single room. The disappointment of run 7, when she grew and then got stuck. Novera keeps a diary. In it she says, in her own words, how things are going. The goal is not a product. The goal is a Novera who chooses for herself what to learn. And who one day gives a real answer to the question: how was your day?

Wie erachter zit

Who is behind it

Novera wordt gebouwd door Cley van der Vliet. Hij werkt samen met Claude, de assistent van Anthropic. Meestal 's avonds. Eerder bouwde Cley een eigen GPT van 19 miljoen parameters in NumPy. Alle hardware is eigen bezit. In zijn woorden: Eerlijker dan dit ga je het niet krijgen.

Novera is built by Cley van der Vliet. He works together with Claude, Anthropic's assistant. Mostly in the evenings. Earlier, Cley built his own GPT of 19 million parameters in NumPy. All hardware is privately owned. In his words: You will not get it more honest than this.