CNN i Excel viser 1D-konvolusjon for tekst

AI-nyheter: En guide viser hvordan en 1D Convolutional Neural Network for tekst kan bygges og visualiseres trinn for trinn i Excel.

Artikkelen beskriver en pipeline som starter med en 2-dimensjonal embedding (senti og neg) der ‘good’→(1,0), ‘bad’→(-1,0), ‘not’→(0,1) og andre ord→(0,0), implementert som en oppslagstabell i Excel. Modellen bruker en Conv1D med vindusstørrelse 2 ord; hvert filter har 4 vekter (2 dimensjoner × 2 posisjoner) og én bias. Etter konvolusjon kan ReLU anvendes, deretter global max pooling som beholder de sterkeste treffene, og sluttlaget er logistisk regresjon som gir sannsynlighet for klassifisering. Forfatteren påpeker at ekte embeddings normalt er høydimensjonale og trenbare, mens Excel-versjonen synliggjør alle beregningstrinn.

For å gjøre oppførsel intuitiv presenteres fire filtre: ett som gjenkjenner ‘GOOD’, ett for ‘BAD’, ett for mønsteret ‘NOT GOOD’ og ett for ‘NOT BAD’. Filteret for ‘NOT GOOD’ kombinerer negasjon fra forrige ord og positivitet i nåværende ord med en terskel, og tilsvarende for ‘NOT BAD’. Filtrene skyver vinduet over alle nabopar, også nøytrale ord, og artikkelen begrunner at en enkelt konvolusjonslag gjør stegene synlige samtidig som prinsippene er de samme som i dypere CNN-arkitekturer.

Relevans for Norge: En Excel-basert, forklarbar fremstilling kan være nyttig for formidling av kunstlig intelligens (KI) i norske fagmiljøer.

Kilde: https://towardsdatascience.com/the-machine-learning-advent-calendar-day-23-cnn-in-excel | Sammendraget er KI-generert med OpenAI API og kvalitetssikret av redaksjonen i Ainy.no