AI-transparens

I dag är ingen AI-funktion aktiv i Ablas. Ingen text skickas till någon AI-leverantör från den publika tjänsten.

Funktionerna är byggda men avstängda bakom en spärr i koden, och vi beskriver dem här i förväg – dels för att texten ska finnas på plats den dag de slås på, dels för att du ska kunna läsa den innan dess i stället för efteråt.

• AI-utkast till lärare i Prov, Play och Slides. En inloggad lärare beskriver vad hen vill ha och får ett utkast – frågor, ett quiz eller en presentation – att granska och redigera innan något sparas. Läraren kan välja att peka ut ett eget uppladdat dokument som underlag, så att utkastet utgår från lärarens eget material.
• Återanvändning av lärarens eget material. Innan ett nytt utkast genereras söker Ablas i det läraren redan har skapat, så att samma sak inte genereras två gånger. Sökningen använder en AI-leverantör för att jämföra ämnesetiketter (se avsnitt 4).
• Ablas AI-arbetsytan: samtalet före utkastet. I lärarens AI-arbetsyta beskriver läraren med egna ord vad hen vill skapa, och Ablas ställer korta följdfrågor tills beskrivningen är komplett. Det samtalet skapar ingenting: det tar fram en beställning som läraren själv bekräftar, och först då körs den vanliga utkastgenereringen. Samtalet och själva utkastet går till två olika leverantörer (se avsnitt 3 och 4).
• Hjälprutan i lärarens arbetsytor. Frågetecknet i Prov, Play, Slides och Write svarar på korta frågor om hur produkten används. De vanliga frågorna besvaras av texter vi själva har skrivit, inuti Ablas och utan att något lämnar tjänsten. Först när ett skrivet svar saknas kan frågan skickas vidare till en AI-leverantör, och just den delen är avstängd i den publika tjänsten precis som funktionerna ovan. Hjälprutan finns bara i lärarens gränssnitt.

När funktionerna är aktiva får du tydligt veta att innehållet skapas av AI, och AI-genererade förslag är märkta. AI presenteras aldrig som en människa, och AI-funktionerna visas bara i lärarens gränssnitt.

Övriga AI-idéer – till exempel automatisk återkoppling på elevtexter, AI-stödd bedömning eller elevriktade AI-funktioner – är i nuläget bara på planeringsstadiet och är inte byggda eller aktiverade. Om vi lanserar dem uppdaterar vi den här sidan innan de tas i bruk.

Ablas Group AB är tillhandahållare (deployer) av AI-funktionerna i Ablas. Vi bygger inte själva de underliggande modellerna, utan använder andras modeller via deras gränssnitt. Vi använder två leverantörer, med varsin tydlig roll:

• Anthropic – språkmodellen som skriver själva utkastet.
• OpenAI – används till tre saker, och till inget annat:
  • Embeddings. Korta ämnesetiketter omvandlas till sifferserier som går att jämföra, så att lärarens eget tidigare material kan återanvändas. Ingen text genereras här.
  • Samtalet i lärarens AI-arbetsyta. En språkmodell läser lärarens meddelanden och avgör vad som saknas, formulerar en kort följdfråga på svenska och fyller i beställningens fält. Den skriver ingen presentation, inga frågor och inget elevmaterial.
  • Hjälprutan i produkten. När en lärare frågar hur produkten används och Ablas inte redan har ett skrivet svar, läser en språkmodell frågan och formulerar ett kort svar på svenska, två till fem meningar. Den får se frågan och Ablas egen beskrivning av vad produkten kan, och ingenting annat.

Gränsen mellan de två leverantörerna är enkel: OpenAI hjälper till att förstå vad läraren vill ha och svarar kort om hur Ablas används, Anthropic skriver innehållet. Ingen presentation, inget prov och inget quiz skapas av OpenAI. Ett hjälpsvar är text om hur du använder Ablas, aldrig material till dina elever.

Funktionerna är avstängda just nu (se avsnitt 1), så ingenting skickas till någon AI-leverantör i dag. När de är aktiva gäller följande, och gränserna nedan är genomförda i koden – inte bara i den här texten.

Till Anthropic skickas: lärarens egen beskrivning (ämne, ämnesområde, kunskapsmål), inställningar som antal och svårighetsgrad, den läroplanstext Ablas använder som ram, och – endast när läraren uttryckligen har valt ett eget uppladdat dokument som underlag – ett avgränsat utdrag ur det dokumentet. Utdraget väljs automatiskt efter vad läraren bett om, och hela dokumentet skickas aldrig.

Till OpenAI skickas, för embeddings: ämne, ämnesområde och målformuleringar, som en kort strukturerad text. Inget annat. Sifferserien för en enskild sökning används i sökögonblicket och sparas inte.

Till OpenAI skickas, för samtalet i AI-arbetsytan: lärarens egna meddelanden i just den konversationen, Ablas tidigare svar i samma konversation, namnen på lärarens sparade undervisningskontexter (till exempel ”Biologi, åk 8”) och titlarna på de dokument läraren själv har laddat upp, så att Ablas kan fråga vilket underlag som avses. Därutöver Ablas egna regler och gränsvärden.

Till samtalet skickas aldrig: innehållet i ett uppladdat dokument (bara titeln), något databas-id eller kontonummer – varje kontext och dokument får i stället en tillfällig kod som k1 eller d1 som bara gäller den enskilda förfrågan – och ingenting om en elev, en klass, ett provresultat eller en betalning. Läraren väljer själv vad hen skriver i rutan; texten är begränsad i längd och konversationen i antal turer.

Samtalet i AI-arbetsytan kostar ingen AI-generering och skapar ingenting. Först när läraren bekräftar beställningen körs den vanliga genereringen hos Anthropic, enligt raden ovan.

Till OpenAI skickas, för hjälpfrågan: lärarens egen fråga så som den är skriven i rutan, högst 240 tecken, och Ablas egen fasta beskrivning av vad produkten kan. Inget annat: ingenting om en elev, ingen klass, inga provresultat, inga bedömningar, inget uppladdat dokument, inget innehåll ur databasen, inget id och ingenting från någon annan konversation i Ablas.

Hjälpfrågan kostar ingen AI-generering och har en egen gräns för hur många frågor en lärare kan ställa per minut. När den delen är påslagen står det i rutan att svar kan skapas med AI och att du bör kontrollera viktig information.

Till ingen av dem skickas: elevers svar, elevers identiteter, elevers texter, provresultat, bedömningar eller facit.

Materialet stannar hos den lärare som skapade det. Återanvändningen söker i lärarens eget material. Ett utkast, ett uppladdat dokument eller ett utdrag ur det kan inte bli underlag för en annan lärares generering – spärren sitter i det lager som avgör vad som är sökbart, och en träff som tillhör någon annan avvisas innan något annat om den ens undersöks.

AI kan ha fel. Den kan hitta på (hallucinera), vara partisk eller ge felaktiga svar. AI-resultat i Ablas ska alltid ses som ett förslag, inte som en garanterat korrekt sanning.

All AI-genererad information i Ablas är utkast som en lärare granskar och redigerar innan den används. AI publicerar aldrig innehåll automatiskt till elever, och AI sätter aldrig betyg. Gränsen mellan formativt stöd (hjälp och övning) och formell bedömning är tydlig: AI hör hemma i det formativa stödet.

Betygsättning och bedömning i Ablas görs av lärare. Rättningen i Ablas Prov är regelbaserad och deterministisk – ingen AI avgör betyg eller formella studieresultat. Skulle vi i framtiden vilja använda AI på ett sätt som kan påverka ett officiellt betyg, ett formellt studieresultat eller ett annat betydande utbildningsbeslut, behandlar vi det som en möjlig högrisk­användning enligt EU:s AI-förordning och inför de skyddsåtgärder som krävs innan det lanseras.

Inom Ablas tillåter vi inte AI-användning som är förbjuden eller olämplig, till exempel:

• skadlig manipulation eller utnyttjande av sårbarhet kopplad till ålder eller funktionsnedsättning,
• social poängsättning av personer,
• förbjuden biometrisk kategorisering,
• känsloigenkänning i skolmiljö,
• dold AI-interaktion som vilseleder användaren, samt
• framställning av olagligt innehåll.

Vi vill vara ärliga: vi har inget system som tekniskt kan upptäcka varje otillåten inmatning. Reglerna ovan beskriver vad som gäller för hur Ablas får användas.

Eftersom Ablas används av minderåriga är vi extra försiktiga med hur AI används och vilka data som behandlas. AI-funktionen visas, när den är aktiv, bara i lärarens gränssnitt — aldrig i elevens.

Ser du ett felaktigt eller olämpligt AI-resultat? Hör av dig till kontakt@ablas.se så tittar vi på det.