Ett chattgränssnitt som sänker trösklarna för datadrivna beslut

Språkmodeller har förändrat sättet vi interagerar med information och öppnat upp nya möjligheter för hur vi söker och får tillgång till data. Språkmodellsbaserade chattbotar har integrerats i t.ex. sökmotorer som ett nytt gränssnitt för att snabbare och mer intuitivt hitta svar på det vi letar efter.

Göteborgs Hamn AB hörde av sig till oss på Knowit Solutions CoCreate och frågade om vi kunde hjälpa dem att i en POC (Proof of concept) utveckla ett chattgränssnitt mot strukturerat data.

“Göteborgs hamn jobbar målmedvetet med att bygga bolagets och transportkedjans förmåga att agera datadrivet, och då behöver vi ständigt fundera på hur vi sänker trösklarna för alla att använda data i sina beslutsprocesser och hur vi dessutom kan underlätta att ställa rätt datafrågor”, säger Niklas Lindén, Data strategy manager på Göteborgs hamn, och fortsätter; “Att kunna erbjuda naturligt språk som ett gränssnitt till de tabulära datamängderna i vårt datalager känns onekligen som ett sätt att sänka trösklar, och vi ville undersöka om det var möjligt. Samtidigt såg vi en möjlighet att bygga på oss erfarenhet av att bygga LLM-baserade applikationer i vår dataplattform, en förmåga som vi utan tvekan kommer ha nytta av i fler användarfall framöver.”

Så använde vi Streamlit och semantiska modeller för interaktiv dataanalys

I vår POC byggde vi en Streamlit-applikation där användaren kan ställa en fråga till ett dataset och få svaret presenterat i både graf- och tabellform.

För att kunna hantera och tolka frågor från användarna byggde vi en semantisk modell . Den semantiska modellen fungerar som ett abstraherande mellanlager mellan SQL-databasen och språkmodellen. I detta lager definierade vi mått och dimensioner som är relevanta för användarnas informationsbehov, vilket möjliggjorde att datan kunde analyseras på ett meningsfullt sätt.

Med hjälp av en teknik som kallas few-shot prompting lärde vi språkmodellen att korrekt tolka frågor och översätta dem till strukturerade frågor mot datamängderna. Med hjälp av några få exempel kunde språkmodellen svara på ett brett spektrum av frågor om datasetet.

Chattgränssnittet designades som en enkel och användarvänlig applikation där medarbetare snabbt kunde mata in sina frågor och se resultaten visualiserade i en enkel och begriplig form.

Hur kan andra dra nytta av detta?

För företag och organisationer som vill göra sin data mer lättillgänglig för medarbetare kan ett språkmodellbaserat chattgränssnitt vara en perfekt lösning. Implementeringen kräver:

• En databas med strukturerad data.

• Ett semantiskt lager med semantiska modeller som beskriver hur datan kan användas.

• Tillgång till en språkmodell, till exempel en LLM (Large Language Model).

• Few-shot prompting för att guida modellen i att förstå och besvara relevanta frågor.

• En lättanvänd applikation där användare kan interagera med datan via naturligt språk, till exempel ett chattgränssnitt.

Vad innebär detta för en verksamhet?

Att sänka tröskeln för dataanvändning och göra det enklare att fatta datadrivna beslut i realtid möjliggör att verksamheten snabbt och enkelt kan få insikter om sin data utan att användaren behöver vara domänexpert eller besitta programmeringskunskaper.