Men s\u00e5klart t\u00e4nker vi de senaste \u00e5ren p\u00e5 vad som g\u00e5r att g\u00f6ra i mjukvara n\u00e4r AI diskuteras. Vad f\u00f6r framsteg har d\u00e5 skett som gjort att AI dyker upp \u00f6verallt just nu? Det \u00e4r f\u00f6r att fungerade till\u00e4mpningar av det gamla forskningsomr\u00e5det ”Machine learning”<\/a> sedan starten av 2010-talet lyckats utf\u00f6ra uppgifter inte tidigare m\u00f6jligt p\u00e5 den tidens datorer.<\/p>\n\n\n\n Att Nvidia skapade CUDA 2006 var fundamentalt f\u00f6r att de h\u00e4r gamla teorierna \u00e4ntligen skulle kunna testk\u00f6ras effektivt p\u00e5 tillr\u00e4ckligt snabb h\u00e5rdvara. Vid den h\u00e4r tiden f\u00f6rstod d\u00e5 17-\u00e5rige Adam inte varf\u00f6r det skulle vara intressant att k\u00f6ra n\u00e5got annat \u00e4n spel som Oblivion<\/em> <\/a>p\u00e5 grafikkortet…<\/p>\n\n\n\n A crud app is just a skin over a database. Traditionally this means the 5 core function – create, read one, read all, update and delete – with some auxiliary functions.<\/p>\n\n\n\n What do people mean by ”a simple CRUD app”<\/a><\/p>\n<\/blockquote>\n\n\n\n CRUD kan vara en simpel hemsida som har i uppgift att lagra ett f\u00e5tal sammanh\u00f6rande dom\u00e4nobjekt. Kanske har samma information tidigare sammanst\u00e4llts i en Excel fil. <\/p>\n\n\n\n Ut\u00f6ver de vanliga operationerna p\u00e5 datan (Skapa, H\u00e4mta, Uppdatera, Ta bort) kanske \u00e4ven viss r\u00e4ttighetsstyrning beh\u00f6vs s\u00e5 endast vissa grupper av anv\u00e4ndare f\u00e5r till exempel ta bort en viss typ av objekt. I en s\u00e5dan h\u00e4r applikation g\u00e5r inte en enda CPU cykel \u00e5t s\u00e5 l\u00e4nge inte n\u00e5gon m\u00e4nniska l\u00e4ser eller modifierar datan. Skulle alla helt pl\u00f6tsligt sluta anv\u00e4nda mjukvaran s\u00e5 skulle den aldrig igen utf\u00f6ra n\u00e5got arbete. Total stillhet infinner sig.<\/p>\n\n\n\n N\u00e4r blir en s\u00e5dan h\u00e4r applikation AI?<\/p>\n\n\n\n N\u00e4sta steg i den naturliga utvecklingen av en s\u00e5dan h\u00e4r ”app” \u00e4r att tillf\u00f6ra mer och mer validering av den data som tillf\u00f6rs. N\u00e4r den tillf\u00f6rs. <\/p>\n\n\n\n Anv\u00e4ndaren skall varnas n\u00e4r ett f\u00e4lt missats fyllas i eller om n\u00e5got numeriskt v\u00e4rde \u00e4r utanf\u00f6r det omr\u00e5de verksamheten uppm\u00e4rksammat skulle vara en bra regel att ha. Denna typ av inv\u00e4rdesvalideringar kan bli mer och mer avancerad desto l\u00e4ngre man kommer fr\u00e5n enkla datatypskontroller till ren aff\u00e4rslogik unikt anpassad f\u00f6r den aktuella verksamhetens nuvarande behov.<\/p>\n\n\n\n Att f\u00e5 s\u00e5dana h\u00e4r varningsrutor med v\u00e4lskrivna felmeddelanden kan ge k\u00e4nslan av att mjukvaran ”vet” saker. \u00c4r den AI nu? Den hindrar verksamheten fr\u00e5n att lagra tillst\u00e5nd en n\u00e4rvarande m\u00e4nniska annars skulle satt stopp f\u00f6r.<\/p>\n\n\n\n Every time we figure out a piece of it, it stops being magical; we say, ’Oh, that’s just a computation.’<\/p>\n\n\n\n Rodney Brooks<\/a> (AI effect)<\/p>\n<\/blockquote>\n\n\n\n F\u00f6rs\u00e4kringskassans system som \u00e4r exponerade till den allm\u00e4nna befolkningen klarar inte av att detektera n\u00e4r den senare f\u00f6r\u00e4ldern r\u00e5kar logga ledighet p\u00e5 samma dag som den andra f\u00f6r\u00e4ldern redan registrerat. Ist\u00e4llet ringer handl\u00e4ggare upp dagar senare och undrar hur det skall vara och hur de skall \u00e4ndra inmatningen. H\u00e4r skulle simpel validering med en popup n\u00e4r den senare registreringen g\u00f6rs som s\u00e4ger ”Din sambo\/partner\/fru\/b\u00e4ttre h\u00e4lft har redan registrerat ledighet p\u00e5 datum x, y, z. Vill du \u00e4nd\u00e5 spara?”.<\/p>\n\n\n\n ”Bolagsverket tar emot vilket skr\u00e4p som helst”<\/p>\n\n\n\n Jens Nylander<\/p>\n<\/blockquote>\n\n\n\n Den tidigare mp3-spela import\u00f6ren Jens ”Jens of Sweden” Nylander s\u00e4ger att han med AI (han vet vad han skall s\u00e4ga) hittar otaliga \u00e5rsredovisningar<\/a> som \u00e4r rent felaktiga och mots\u00e4gelsefulla. S\u00e5dant som aldrig borde tagits emot. S\u00e5dant som borde validerats vid sparningsstillf\u00e4llet.<\/p>\n\n\n\n Kontentan \u00e4r att detta \u00e4r enkel validering av inv\u00e4rden och det enda sv\u00e5ra att utf\u00f6ra \u00e4r n\u00e4r och hur k\u00e4llan av dessa v\u00e4rden skall informeras om de felaktigheter som f\u00f6rs\u00f6ker lagras. De vanliga utmaningarna inom integration<\/a>.<\/p>\n\n\n\n I grafen ovan hamnar applikationer l\u00e4ngre \u00e5t h\u00f6ger n\u00e4r de sl\u00e5r st\u00f6rre och st\u00f6rre del av m\u00e4nskligheten p\u00e5 den givna uppgiften. D\u00e4r hittas redan schack och behandling av proteinstrukturer i den \u00f6vre delen av grafen som st\u00e5r f\u00e5r applikationer som designats f\u00f6r enskilda uppgifter. I den nedre delen hittas stora spr\u00e5kmodeller (ChatGTP) som anses vara n\u00e5gon form av generell intelligens (vilket \u00e4r oerh\u00f6rt h\u00e4ftigt!). Dock placeras de fortfarande l\u00e5ngt till v\u00e4nster d\u00e5 de \u00e4r s\u00e4mre \u00e4n n\u00e4stan alla m\u00e4nniskor p\u00e5 generella uppgifter. De \u00e4r samtidigt oerh\u00f6rt kraftfulla i specifikt spr\u00e5krelaterade uppgifter, d\u00e4r sl\u00e5r de s\u00e4kert m\u00e5nga.<\/p>\n\n\n\n De ing\u00e5r i samlingen av m\u00f6jligheter som kallas ”Generative AI”. De \u00e4r b\u00e4st p\u00e5:<\/p>\n\n\n\n D\u00e4r svara p\u00e5 fr\u00e5gor s\u00e4kert \u00e4r det mest hype finns. N\u00e4r modellerna blir tillr\u00e4ckligt stora visar det sig att de b\u00e5de l\u00e4r sig spr\u00e5k samt av farten r\u00e5kar lagra fakta om v\u00e4rlden. D\u00e4rf\u00f6r kan de konversera och svara p\u00e5 fr\u00e5gor men med risken att de, utan att veta det, genererar ”fakta” som inte \u00e4r sant. <\/p>\n\n\n\n But roughly speaking (and today), you’re not asking some magical AI. You’re asking a human data labeler. Whose average essence was lossily distilled into statistical token tumblers that are LLMs. This can still be super useful of course. Example when you ask eg \u201ctop 10 sights in Amsterdam\u201d or something, some hired data labeler probably saw a similar question at some point, researched it for 20 minutes using Google and Trip Advisor or something, came up with some list of 10, which literally then becomes the correct answer, training the AI to give that answer for that question.<\/p>\n\n\n\n Andrej Karpathy<\/a><\/p>\n<\/blockquote>\n\n\n\n F\u00f6r att motverka dessa hallucinationer beh\u00f6ver fr\u00e5gan kompletteras med n\u00e5gon form av RAG <\/a>som tillf\u00f6r extra kunskaper till AI modellen vid fr\u00e5getillf\u00e4llet.<\/p>\n\n\n\n But to deliver authoritative answers that cite sources, the model needs an assistant to do some research<\/p>\n\n\n\n What Is Retrieval-Augmented Generation, aka RAG?<\/a><\/p>\n<\/blockquote>\n\n\n\n Jag tror inte systemutvecklare kommer beh\u00f6va p\u00e5 sikt grotta ner sig i RAG l\u00f6sningar speciellt ofta utan de b\u00e4sta verktygen kommer finnas inbyggda i exempelvis Sharepoint\/Office eller Adobe reader. Kunskap i verksamhetsanpassade l\u00f6sningar som anv\u00e4nder fler \u00e4n en modalitet <\/a>l\u00e4r vara mer troligt att beh\u00f6vas.<\/p>\n\n\n\n Modeller med mer \u00e4n en modalitet f\u00f6rst\u00e5r hur en typ av data kan omvandlas till en annan typ. I bilden nedan anv\u00e4nder jag modellen LLaVA <\/a>till att f\u00f6resl\u00e5 ett filnamn till en bild som visar ett av de slitna f\u00f6nster jag skall byta ut.<\/p>\n\n\n\n![\"\"](\"https:\/\/djax.se\/wp-content\/uploads\/2024\/09\/bild-1024x554.png\")
Vad \u00e4r CRUD?<\/h2>\n\n\n\n
\n
\n
N\u00e4r blir mjukvaran intelligent?<\/h2>\n\n\n\n
\n
![\"\"](\"https:\/\/djax.se\/wp-content\/uploads\/2024\/09\/bild-2-1024x552.png\")
Vad kan LLM d\u00e5 g\u00f6ra?<\/h2>\n\n\n\n
\n
\n
\n
Kombination av modelltyper<\/h2>\n\n\n\n
![\"\"](\"http:\/\/djax.se\/wp-content\/uploads\/2023\/10\/firefox_WhNpL1kuql.png\")
<\/figure>\n\n\n\n
![\"\"](\"http:\/\/djax.se\/wp-content\/uploads\/2023\/10\/msedge_qjl2Au2iuQ-807x1024.png\")
<\/figure>\n\n\n\n