Aandacht is alles wat je nodig hebt (opens in new tab)

In 2017 verscheen een paper van 8 Google collega’s: Attention Is All You Need. Hun namen zijn: Rocksterren volgens sommigen. Wat hebben zij uitgevonden? Zij bedachten de Transformer-architectuur: de ‘T’ in ChatGPT. Vóór 2017 lazen AI-modellen teksten woord voor woord. Als een model bij het einde van een lange zin was, was het het begin […]