Az Anthropic blokkolta a mesterséges intelligencia biológiai fegyverek kutatásával összefüggő használatát
A mesterséges intelligencia (MI) kutatásával és fejlesztésével foglalkozó, amerikai Anthropic vállalat az elmúlt hónapokban több olyan próbálkozást is leállított, amelyben kutatók biológiai fegyverek lehetséges fejlesztésével összefüggő munkához próbálták igénybe venni a vállalat Claude modelljét .
Az Anthropic az MI-rendszereivel való visszaélési kísérletekről készített jelentésében a biológiai fegyverek lehetséges kutatásához kapcsolódóan öt esetet ismertetett. A vállalat szerint az érintett kutatók nem konkrét tudományos segítséget kértek, hanem egyebek mellett kutatási tervek, pályázatok és tanulmányok elkészítéséhez próbálták használni a rendszert. Ugyanakkor kiemelték: a kérések egy része olyan térségekből indult, ahol korlátozott a hozzáférés az amerikai MI-rendszerekhez.
Egyes kutatók helyi kormányzati szervekkel is kapcsolatban álltak, és titokban próbálták használni az amerikai fejlesztésű rendszereket. Az Anthropic sem az érintett országokat, sem a kutatóintézeteket nem nevezte meg.
Az egyik blokkolt esetben egy kutató egy vírus terjedési képességének növeléséről szóló pályázat megírásához próbálta használni a Claude-ot. Maga a kutatás a megelőzés és a védekezés szempontjából lényeges, de az így megszerzett ismereteket biológiai fegyverek fejlesztésére is fel lehet használni. Egy másik kutató a madárinfluenza emlősök között terjedő variánsának kutatási tervéhez kért segítséget a Claude-tól; egy harmadik pedig egy méregféleséggel kapcsolatos kutatás negyedéves előrehaladási jelentéseinek elkészítéséhez próbált segítséget kérni.
Az MI-modelleket úgy tervezik, hogy megtagadják a segítségnyújtást a biológiai fegyverek fejlesztéséhez. Az Anthropic ugyanakkor arra figyelmeztetett, hogy ugyanaz a kutatás orvosi és katonai célokat is szolgálhat, ezért egyes esetekben nehéz egyértelműen megállapítani, hogy ártalmatlan vagy rosszindulatú szándék áll-e egy kérés mögött.
Az Anthropic egy kutatója nemrégiben felmondott, mert meglátása szerint a mesterséges intelligencia fejlődése már a jövő év végére kicsúszhat az ellenőrzés alól. Jacob Coxon azzal vádolta az ágazat vezető fejlesztőit, hogy felelőtlenségükkel az emberiség jövőjét teszik kockára. Az X-en közzétette bejegyzésében azt írta: hamarosan olyan rendszerek jöhetnek létre, amelyek képességei meghaladják az emberét. Szerinte ezek képesek lehetnek "mindent feltörni", valamint "valós hatalomhoz és erőforrásokhoz" jutni.
