OpenAI launches GPT Rosalind to accelerate life sciences research - mezha.net

Klinkt tof, maar “200 miljoen papers” zegt weinig als je niet laat zien hoe vaak het model confident onzin uitkraamt of referenties verzint, want dat gebeurt bij LLM’s nog steeds. En die “GDPR/HIPAA secure mode” met embeddings opsturen: embeddings kunnen in sommige gevallen juist herleidbaar zijn, dus wie audit dat echt, extern en met cijfers? Als dit straks in labs tijd wint: prima, maar laat het alsjeblieft niet stiekem doorschuiven naar klinische keuzes omdat het zo lekker snel een hypothese uitspuugt…

Joa allemaal mooi met “Rosalind”, maar zolang die hele biotech-wereld z’n data achter paywalls, patenten en hippe start-up NDA’s blijft verstoppen krijg je vooral: groot model, grote marketing, kleine reproduceerbaarheid… laat ze eerst eens standaardiseren hoe je labdata opslaat en deelt, dan pas wordt het echt sjön en niet alleen snel een fancy hypothese uitspugen.

wat ik mis in dit soort “AI voor life sciences” praat: wie is aansprakelijk als zo’n model een assay/primer/CRISPR-guide net verkeerd voorstelt en je maanden werk + dieren/monsters de prullenbak in jaagt? In een lab is “tijdwinst” vaak gewoon verschuiving van fouten naar later, en dan ben je véél duurder uit. En als er API-koppelingen “realtime” data trekken: hoe ga je om met versiebeheer en provenance, want UniProt/PDB entries veranderen gewoon en dan reproduceer je je eigen analyse niet meer, toch?

Rosalind, mooie naam hoor, maar dit riekt gewoon naar “AI als lab-assistent” terwijl het in de praktijk een datazuiger is voor pharma en verzekeraars… Secure mode met embeddings, GDPR/HIPAA, ja ja, dat zeiden ze met al die coronadashboards ook en toch lag alles ineens bij de verkeerde partijen. Ik heb in de zorg gezien hoe snel “alleen voor onderzoek” verandert in “handig voor beleid/triage/vergoeding”, en dan mag jij straks bewijzen dat je níet in een risicogroep valt omdat een model dat uit je -omics “afleidt”!!

Ja jong, iedereen zit op hallucinaties en privacy te hameren, maar wie betaalt dit feestje straks? Als zo’n Rosalind alleen dikke pharma en rijke universiteiten kunnen betalen, dan krijgde dus “wetenschap versnellen” voor de happy few en de rest mag achteraan aansluiten.