De Guide vum ISC bitt en ëmfaassend Kader entworf fir de Gruef tëscht héije Prinzipien a praktesch, handlungsfäeg Politik ze iwwerbrécken. Et reagéiert op den dréngende Bedierfnes fir e gemeinsamt Verständnis vu béide Méiglechkeeten a Risiken, déi vun opkomende Technologien presentéiert ginn. Dëst ass e wesentlecht Dokument fir déi, déi um politeschen Nexus an eiser séier verännerter digitaler Ära schaffen.
De Kader exploréiert d'Potenzial vun AI a sengen Derivate duerch eng ëmfaassend Lens, déi mënschlecht a gesellschaftlecht Wuelbefannen zesumme mat externe Faktore wéi Wirtschaft, Politik, Ëmwelt a Sécherheet ëmfaasst. E puer Aspekter vun der Checklëscht kënne méi relevant sinn wéi anerer, ofhängeg vum Kontext, awer besser Entscheedunge schéngen méi wahrscheinlech wann all Domaine berücksichtegt ginn, och wann e puer séier als irrelevant a bestëmmte Fäll identifizéiert kënne ginn. Dëst ass den inherente Wäert vun enger Checklëscht Approche.
"An enger Ära geprägt vu séierer technologescher Innovatioun a komplexe globalen Erausfuerderungen, de Kader vum ISC fir eng ëmfaassend a multidimensional Analyse vun de potenziellen Impakten erméiglecht de Leader informéiert, verantwortlech Entscheedungen ze treffen. Et garantéiert datt wa mir technologesch virukommen, mir dat maachen mat enger virsiichteger Iwwerleeung vun den etheschen, sozialen a wirtschaftlechen Implikatioune ".
Peter Gluckman, President vun der ISC
Wärend Héichniveau Prinzipien ënner anerem vun der UNESCO, der OECD, der Europäescher Kommissioun an der UNO verkënnegt goufen, a verschidde Diskussioune weider iwwer Themen vu potenzieller Gouvernance, Regulatioun, Ethik a Sécherheet sinn, gëtt et e groussen Ënnerscheed tëscht esou Prinzipien an engem Gouvernance oder reglementaresche Kader. Den ISC adresséiert dëse Besoin duerch säin neie Guide fir Politiker.
Dëse Guide fir Politiker ass net virgesinn fir e Reguléierungsregime ze verbueden, mee éischter en adaptiven an evoluéierende analytesche Kader ze proposéieren deen all Bewäertung a reglementaresche Prozesser ënnersträiche kann, déi vun Akteuren entwéckelt kënne ginn, dorënner Regierungen an de multilaterale System.
"De Kader ass e kritesche Schrëtt am globalen Gespréich iwwer AI well et eng Basis gëtt, aus där mir Konsens iwwer d'Implikatioune vun der Technologie fir elo an an d'Zukunft kënne bauen."
Hema Sridhar, fréier Chefwëssenschaftsberoderin, Verteidegungsministère, Neiséiland a elo Senior Research Fellow, Universitéit vun Auckland, Neiséiland.
Zënter Oktober 2023 goufen et e puer bedeitend national a multilateral Initiative mat weiderer Berücksichtegung vun der Ethik a Sécherheet vun AI. D'Implikatioune vun AI op d'Integritéit vun e puer vun eise kritesche Systemer, dorënner finanziell, Regierung, juristesch an Erzéiung, souwéi verschidde Wëssenssystemer (och wëssenschaftlech an Naturvölker Wëssen), sinn ëmmer méi Suergen. De Kader reflektéiert dës Aspekter weider.
De Feedback kritt vun ISC Memberen an der internationaler Politik-making Communautéit bis haut ass an der iwwerschafft Versioun vum analytesche Kader reflektéiert, déi elo als Guide fir Politiker verëffentlecht ass.
E Guide fir Politiker: Evaluéieren séier entwéckelt Technologien abegraff AI, grouss Sproochmodeller an doriwwer eraus
Dësen Diskussiounspabeier liwwert de Kontur vun engem initialen Kader fir déi verschidde global an national Diskussiounen z'informéieren déi am Zesummenhang mat AI stattfannen.
Luet de Kader erof fir an Ärer Organisatioun ze benotzen
Hei liwwere mir de Kaderinstrument als editable Excel Blat fir an Ärer Organisatioun ze benotzen. Wann Dir léiwer en Open Source Format wëllt, kontaktéiert w.e.g [Email geschützt].
Introduktioun
Schnell opkomende Technologien stellen usprochsvollen Themen wann et ëm hir Notzung, Gouvernance a potenziell Reguléierung kënnt. Déi lafend Politik an ëffentlech Debatten iwwer kënschtlech Intelligenz (AI) a seng Notzung hunn dës Themen an akuten Fokus bruecht. Breet Prinzipien fir AI goufen vun der UNESCO, der OECD, der UNO an anerer ugekënnegt, dorënner d'Vereenegt Kinnekräich Bletchley Deklaratioun, an et ginn opkomende Juridictioune Versuche fir d'Reguléierung vun Aspekter vun der Technologie duerch zum Beispill d'Europäesch Unioun (EU) AI Gesetz oder déi rezent US AI Executive Order.
Wärend d'Benotzung vun AI laang an dësen an anere Fora diskutéiert gëtt, iwwer geopolitesch Trennungen an a Länner op all Akommesniveau, bleift et en ontologesche Gruef tëscht der Entwécklung vun héijen Niveau Prinzipien an hir Inkorporatioun an d'Praxis duerch entweder Reguléierung, Politik, Gouvernance oder Stewardship Approche. De Wee vum Prinzip op d'Praxis ass schlecht definéiert, awer mat der Natur an der Kadens vun der AI Entwécklung an der Uwendung, der Villfalt vun Interessi involvéiert an d'Gamme vu méiglechen Uwendungen, kann all Approche net ze generesch oder preskriptiv sinn.
Aus dëse Grënn spillt déi netregierungswëssenschaftlech Gemeinschaft weider eng besonnesch Roll. Den International Science Council (ISC) - mat senger pluralistescher Memberschaft aus de Sozial- an Naturwëssenschaften - huet en Diskussiounspabeier am Oktober 2023 verëffentlecht, deen e virleefegen analytesche Kader presentéiert deen d'Risiken, d'Virdeeler, d'Geforen an d'Chancen berécksiichtegt mat der séier bewegt digitaler Technologie. Wärend et entwéckelt gouf fir AI ze berécksiichtegen, ass et inherent Technologie agnostesch a kann op eng Rei vun opkomende an disruptive Technologien applizéiert ginn, sou wéi synthetesch Biologie a Quantephysik. Dat Diskussiounspabeier invitéiert Feedback vun Akademiker a Politiker. Déi iwwerwältegend Feedback huet esou eng Analyse néideg gemaach a stoungen als eng wäertvoll Approche fir opkomende Technologien wéi AI unzegoen.
Den Zweck vum Kader ass e Tool ze bidden fir all Akteuren z'informéieren - dorënner Regierungen, Handelsverhandlunge, Reguléierer, Zivilgesellschaft an Industrie - vun der Evolutioun vun dësen Technologien, fir hinnen ze hëllefen ze frame wéi se d'Implikatioune kënne berücksichtegen, positiv oder negativ, vun d'Technologie selwer, a méi spezifesch seng speziell Applikatioun. Dësen analytesche Kader gouf onofhängeg vu Regierungs- an Industrieinteressen entwéckelt. Et ass maximal pluralistesch a senge Perspektiven, ëmfaasst all Aspekter vun der Technologie a seng Implikatioune baséiert op extensiv Consultatioun a Feedback.
Dësen Diskussiounspabeier fir Politiker ass net virgesi fir e Reguléierungsregime ze verbueden, mee éischter en adaptiven an evoluéierende analytesche Kader ze proposéieren deen all Bewäertung a reglementaresche Prozesser ënnersträiche kann, déi vun Akteuren entwéckelt kënne ginn, dorënner Regierungen an de multilaterale System.
Als Entscheedungshändler weltwäit an national betruechten entspriechend Politikastellungen an Heber fir d'Risiken an d'Belounung vun enger neier Technologie wéi AI ze balanséieren, ass den analytesche Kader als komplementär Instrument geduecht fir ze garantéieren datt déi voll Suite vu potenziellen Implikatioune adequat reflektéiert ginn.
Hannergrond: firwat en analytesche Kader?
Déi séier Entstoe vun Technologien mat der Komplexitéit an Implikatioune vun AI féiert vill Fuerderunge vu grousse Virdeel. Wéi och ëmmer, et provozéiert och Ängscht vu bedeitende Risiken, vun individuellen bis geostrategeschen Niveau.1 Vill vun der Diskussioun bis haut gouf an engem binäre Sënn ugesinn well ëffentlech ausgedréckte Meenungen éischter um extremen Enn vum Spektrum stattfannen. D'Fuerderunge fir oder géint AI sinn dacks hyperbolesch an - no der Natur vun der Technologie - schwéier ze bewäerten.
Eng méi pragmatesch Approche ass noutwendeg wou Hyperbole mat kalibréierten a méi granuläre Bewäertungen ersat gëtt. AI Technologie wäert sech weider entwéckelen, an d'Geschicht weist datt quasi all Technologie souwuel profitabel wéi schiedlech Notzungen huet. D'Fro ass also: Wéi kënne mir déi profitabel Resultater vun dëser Technologie erreechen, wärend de Risiko vu schiedleche Konsequenzen reduzéiert gëtt, vun deenen e puer existenziell an der Gréisst kënne sinn?
D'Zukunft ass ëmmer onsécher, awer et gi genuch glafwierdeg an Expert Stëmmen iwwer AI a generativ AI fir eng relativ virsiichteg Approche ze encouragéieren. Zousätzlech ass eng System Approche néideg well AI eng Klass vun Technologien ass mat breeder Notzung an Uwendung vu verschiddenen Aarte vu Benotzer. Dëst bedeit datt de komplette Kontext muss berücksichtegt ginn wann Dir d'Implikatioune vun enger AI Notzung fir Individuen, sozialt Liewen, biergerlecht Liewen, gesellschaftlecht Liewen an am globalen Kontext berücksichtegt.
Am Géigesaz zu de meeschten aneren Technologien, fir digital a verbonne Technologien, ass d'Zäit tëscht Entwécklung, Verëffentlechung an Uwendung extrem kuerz, gréisstendeels gedriwwe vun den Interesse vun de Produktiounsfirmen oder Agenturen. Duerch seng ganz Natur - a well se op den digitale Réckgrat baséiert - wäert AI Uwendungen hunn déi séier duerchdréngend sinn, wéi et scho mat der Entwécklung vu grousse Sproochmodeller gesi gouf. Als Resultat kënnen e puer Eegeschafte eréischt no der Verëffentlechung offensichtlech ginn, dat heescht datt et de Risiko vun onerwaarten Konsequenzen ass, souwuel béiswëlleg wéi gutt.
Wichteg gesellschaftlech Wäerter Dimensiounen, besonnesch a verschiddene Regiounen a Kulturen, beaflossen wéi all Notzung ugesi an akzeptéiert gëtt. Ausserdeem dominéieren d'geostrategesch Interesse schonn d'Diskussioun, mat souveränen a multilateralen Interessen déi sech kontinuéierlech duerchschnëtt an domat Konkurrenz an Divisioun féieren.
Bis haut ass vill vun der Reguléierung vun enger virtueller Technologie gréisstendeels duerch d'Lens vu "Prinzipien" a fräiwëlleger Konformitéit gesi ginn, obwuel mam EU AI Act2 an ähnlech gesi mir eng Verréckelung op méi erzwéngen awer e bësse schmuel Reglementer. Eng effektiv global oder national Technologie Gouvernance an / oder Reguléierungssystem opzebauen bleift Erausfuerderung an et gëtt keng offensichtlech Léisung. Multiple Schichten vu riskinforméierten Entscheedungsprozess wäerte laanscht d'Kette gebraucht ginn, vum Erfinder zum Produzent, zum Benotzer, op d'Regierung an zum multilaterale System.
Wärend Héichniveau Prinzipien ënner anerem vun der UNESCO, der OECD, der Europäescher Kommissioun an der UNO verkënnegt goufen, a verschidde Diskussiounen op héijem Niveau iwwer Themen vu potenzieller Gouvernance, Regulatioun, Ethik a Sécherheet weidergoen, gëtt et e groussen Ënnerscheed tëscht Prinzipien an e Gouvernance oder reglementaresche Kader. Dëst muss ugeschwat ginn.
Als Ausgangspunkt betruecht den ISC eng Taxonomie vu Considératiounen z'entwéckelen, déi all Entwéckler, Reguléierer, Politikberoder, Konsument oder Décideuren kéint referéieren. Mat de breet Implikatioune vun dësen Technologien, muss sou eng Taxonomie d'Totalitéit vun den Implikatioune berücksichtegen anstatt e schmuel fokusséierte Kader. Globale Fragmentatioun ass eropgaang wéinst dem Afloss vu geostrategeschen Interessen op Entscheedungsprozesser, a mat der Dréngendlechkeet vun dëser Technologie ass et essentiell fir onofhängeg an neutral Stëmmen fir dauernd eng vereenegt an inklusiv Approche ze kämpfen.
1) Hindustan Times. 2023. G20 muss eng international Panel op technologesch Verännerung Ariichten.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) D'EU Artificial Intelligence Act. 2023. https://artificialintelligenceact.eu
D'Entwécklung vun engem analytesche Kader
Den ISC ass déi primär global Net-Regierungsorganisatioun déi Natur- a Sozialwëssenschaften integréiert. Seng global an disziplinär Erreeche bedeit datt et gutt plazéiert ass fir onofhängeg a global relevant Berodung ze generéieren fir déi komplex Entscheedungen viraus z'informéieren, besonnesch well déi aktuell Stëmmen an dëser Arena gréisstendeels aus der Industrie oder aus der Politik a politescher Gemeinschafte vun de grousse technologesche Muechten sinn.
No enger Period vun extensiv Diskussioun, déi d'Iwwerleeung vun engem net-staatleche Bewäertungsprozess enthält, huet den ISC ofgeschloss datt säi nëtzlechste Bäitrag wier en adaptiven analytesche Kader ze produzéieren, deen als Basis fir Diskurs an Entscheedungsprozess vun all benotzt ka ginn. Akteuren, och während all formelle Bewäertungsprozesser déi entstinn.
De virleefegen analytesche Kader, deen am Oktober 2023 fir Diskussioun a Feedback verëffentlecht gouf, huet d'Form vun enger iwwergräifender Checklëscht entworf fir souwuel Regierungs- an Net-Regierungsinstituter ze benotzen. De Kader identifizéiert an exploréiert d'Potenzial vun enger Technologie wéi AI a seng Derivate duerch eng breet Lens déi mënschlecht a gesellschaftlecht Wuelbefannen ëmfaasst, souwéi extern Faktore wéi Wirtschaft, Politik, Ëmwelt a Sécherheet. E puer Aspekter vun der Checklëscht kënne méi relevant sinn wéi anerer, ofhängeg vum Kontext, awer besser Entscheedunge schéngen méi wahrscheinlech wann all Domaine berücksichtegt ginn, och wann e puer séier als irrelevant a bestëmmte Fäll identifizéiert kënne ginn. Dëst ass den inherente Wäert vun enger Checklëscht Approche.
De virleefege Kader gouf ofgeleet vu fréieren Aarbechten an Denken, dorënner dem International Network for Governmental Science Advice (INGSA) Bericht iwwer digital Wuelbefannen3 an den OECD Framework for the Classification of AI Systems,4 fir d'Gesamtheet vun de potenziellen Méiglechkeeten, Risiken an Impakten ze presentéieren. vun AI. Dës fréier Produkter ware méi limitéiert an hirer Absicht no hirer Zäit a Kontext; et ass néideg fir en iwwergräifend Kader, deen déi ganz Palette vun Themen op kuerz a méi laangfristeg presentéiert.
Zënter senger Verëffentlechung huet den Diskussiounspabeier bedeitend Ënnerstëtzung vu villen Experten a Politiker kritt. Vill hunn speziell d'Empfehlung ënnerstëtzt fir en adaptiven Kader z'entwéckelen, deen eng bewosst a proaktiv Iwwerleeung vun de Risiken an Implikatioune vun der Technologie erlaabt, an doduerch ëmmer d'Totalitéit vun Dimensiounen vum Individuum op d'Gesellschaft a Systemer berücksichtegt.
Eng Schlësselobservatioun, déi duerch de Feedback gemaach gouf, war d'Unerkennung datt verschidde vun den Implikatiounen, déi am Kader berücksichtegt ginn, inherent villsäiteg sinn a sech iwwer verschidde Kategorien ausdehnen. Zum Beispill, Desinformatioun kéint souwuel aus der individueller wéi och geostrategescher Lens berücksichtegt ginn; sou wieren d'Konsequenzen breet.
D'Optioun fir Fallstudien oder Exemplare fir de Kader ze testen gouf och proposéiert. Dëst kéint benotzt ginn fir Richtlinnen z'entwéckelen fir ze weisen wéi et an der Praxis a verschiddene Kontexter benotzt ka ginn. Wéi och ëmmer, dëst wier eng bedeitend Entreprise a ka begrenzen wéi verschidde Gruppen d'Benotzung vun dësem Kader gesinn. Et gëtt am beschten gemaach vu Politiker déi mat Experten a spezifesche Juridictioune oder Kontexter schaffen.
Zënter Oktober 2023 goufen et e puer bedeitend national a multilateral Initiative mat weiderer Berücksichtegung vun der Ethik a Sécherheet vun AI. D'Implikatioune vun AI op d'Integritéit vun e puer vun eise kritesche Systemer, dorënner finanziell, Regierung, juristesch an Erzéiung, souwéi verschidde Wëssenssystemer (och wëssenschaftlech an Naturvölker Wëssen), sinn ëmmer méi Suergen. De revidéierte Kader reflektéiert dës Aspekter weider.
De Feedback, deen bis elo kritt gouf, spigelt sech an der revidéierter Versioun vum analytesche Kader, deen elo als Guide fir Politiker verëffentlecht gëtt.
Wärend de Kader am Kontext vun AI a verbonnen Technologien presentéiert gëtt, ass et direkt iwwerdrobar op d'Iwwerleeunge vun anere séier opkomende Technologien wéi Quantephysik a Synthetesch Biologie.
3) Gluckman, P. an Allen, K. 2018. Wuelbefannen am Kontext vun rapid digital an assoziéiert Transformatiounen verstoen. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. OECD Kader fir d'Klassifikatioun vun AI Systemer. OECD Digital Economy Papers, Nr 323, #. Paris, OECD Verlag.
https://oecd.ai/en/classificatio
De Framework
Déi folgend Tabell presentéiert d'Dimensioune vun engem putative analytesche Kader. Beispiller gi geliwwert fir ze illustréieren firwat all Domain wichteg ass; am Kontext, de Kader géif kontext relevant Expansioun verlaangen. Et ass och wichteg ze ënnerscheeden tëscht de generesche Themen, déi während Plattformentwécklungen entstinn an déi, déi während spezifesch Uwendungen entstinn. Keng eenzeg Considératioun, déi hei abegraff ass, soll als Prioritéit behandelt ginn an als solch all iwwerpréift ginn.
D'Problemer sinn breet an déi folgend Kategorien gruppéiert wéi hei ënnendrënner beschriwwen:
Den Dësch detailléiert Dimensiounen déi musse berécksiichtegt ginn wann Dir eng nei Technologie evaluéiert.
? INGSA. 2018. Wuelbefannen verstoen am Kontext vun rapid digital an assoziéiert Transformatiounen.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
? Nei Descriptoren (quelléiert duerch déi extensiv Berodung a Feedback a Literatur Iwwerpréiwung)
? OECD Kader fir d'Klassifikatioun vun AI Systemer: e Tool fir effektiv AI Politik.
https://oecd.ai/en/classification
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ?Benotzer hir AI Kompetenz | Wéi kompetent a bewosst iwwer d'Eegeschafte vum System sinn déi wahrscheinlech Benotzer déi mam System interagéieren? Wéi wäerte si déi relevant Benotzerinformatioun a Viraussetzunge versuergt ginn? |
| ? Betraffenen Akteuren | Wien sinn déi primär Akteuren déi vum System beaflosst ginn (Persounen, Gemeinschaften, vulnerabel, sektoriell Aarbechter, Kanner, Politiker, Fachleit etc.)? |
| ? Optionalitéit | Ginn d'Benotzer d'Méiglechkeet fir aus dem System z'entscheeden oder ginn se Méiglechkeete fir d'Ausgab erauszefuerderen oder ze korrigéieren? |
| ?Risiken fir Mënscherechter an demokratesch Wäerter | Impakt de System grondsätzlech op d'Mënscherechter, dorënner awer net limitéiert op Privatsphär, Meenungsfräiheet, Fairness, Net-Diskriminéierung etc.? |
| ?Potentiell Auswierkungen op d'Wuelbefannen vun de Leit | Bezéien sech d'System Impaktberäicher op d'Wuelbefannen vum individuellen Benotzer (Aarbechtsqualitéit, Educatioun, sozial Interaktiounen, mental Gesondheet, Identitéit, Ëmwelt etc.)? |
| ? Potenzial fir mënschlech Aarbechtsverdrängung | Gëtt et e Potenzial fir de System fir Aufgaben oder Funktiounen ze automatiséieren déi vu Mënschen ausgefouert goufen? Wa jo, wat sinn d'Konsequenze vum Downstream? |
| ? Potenzial fir Identitéit, Wäerter oder Wëssensmanipulatioun | Ass de System entworf oder potenziell fäeg d'Identitéit vum Benotzer ze manipuléieren oder Wäerter gesat, oder Desinformatioun verbreet? |
| ? Méiglechkeete fir Self-Ausdrock an Self-Aktualiséierung | Gëtt et e Potenzial fir Kënschtler a Selbstzweiwel? Gëtt et e Potenzial fir falsch oder unverifiable Fuerderungen vun Expertise? |
| ? Mesuren vun Self-Wäert | Gëtt et Drock fir idealiséiert Selbst ze portraitéieren? Konnt d'Automatisatioun e Sënn ersetzen vu perséinlecher Erfëllung? Gëtt et Drock fir mat de System an der konkurréiere Aarbechtsplaz? Ass den individuellen Ruff méi schwéier géint Desinformatioun ze schützen? |
| ? Privatsphär | Ginn et diffus Verantwortung fir d'Privatsphär ze schützen a sinn et Viraussetzunge gemaach ginn wéi perséinlech Daten benotzt ginn? |
| ? Autonomie | Konnt den AI System d'mënschlech Autonomie beaflossen andeems en Iwwervertrauen generéiert duerch Enn Benotzer? |
| ? Mënschlech Entwécklung | Gëtt et en Impakt op d'Acquisitioun vu Schlësselkompetenzen fir mënschlech Entwécklung, wéi z exekutiv Funktiounen oder interpersonal Fäegkeeten, oder Ännerungen an Opmierksamkeet Zäit Afloss Léieren, Perséinlechkeet Entwécklung, mental Gesondheets Suergen etc.? |
| ? Perséinlech Gesondheetsversuergung | Ginn et Fuerderunge vu Selbstdiagnos oder personaliséierte Gesondheetsversuergungsléisungen? Wann jo, si se validéiert fir reglementaresche Standarden? |
| ? Mental Gesondheet | Gëtt et e Risiko vun erhéicht Besuergnëss, Einsamkeet oder aner mental Gesondheetsprobleemer, oder kann d'Technologie sou Auswierkunge verbesseren? |
| ? Mënschlech Evolutioun | Konnt grouss Sprooch Modeller a kënschtlech allgemeng Intelligenz änneren der Verlaf vun der mënschlecher Evolutioun? |
| ? Mënsch-Maschinn Interaktioun | Konnt d'Benotzung fir Individuen iwwer Zäit zu Dequalifikatioun an Ofhängegkeet féieren? Sidd do Impakt op mënschlech Interaktioun? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Gesellschaftlech Wäerter | Verännert de System grondsätzlech d'Natur vun der Gesellschaft, erméiglecht d'Normaliséierung vun Iddien, déi virdru als anti-sozial ugesi goufen, oder verletzt gesellschaftlech Wäerter vun der Kultur an där se applizéiert gëtt? |
| ? Sozial Interaktiounen | Gëtt et en Effekt op sënnvoll mënschleche Kontakt, dorënner emotional Relatiounen? |
| ? Populatioun Gesondheet | Gëtt et e Potenzial fir de System fir Bevëlkerungsgesondheetsintentiounen ze förderen oder z'ënnerbriechen? |
| ? Kulturell Ausdrock | Ass eng Erhéijung vun der kultureller Appropriatioun oder Diskriminatioun méiglecherweis oder méi schwéier ze adresséieren? Ausgeschloss oder marginaliséiert d'Vertrauen op de System fir Entscheedungsprozess kulturell relevant Sektiounsverband vun der Gesellschaft? |
| ? Ëffentlech Bildung | Gëtt et en Effekt op Léierpersonal oder Bildungsinstituter? Betount oder reduzéiert de System den digitale Trennung an Ongläichheet tëscht Studenten? Ass den intrinsesche Wäert vu Wëssen oder kritesche Verständnis fortgeschratt oder ënnergruewen? |
| ? Verzerrt Realitéiten | Sinn d'Methoden benotzt fir z'erkennen wat richteg ass nach ëmmer applicabel? Gëtt d'Perceptioun vun der Realitéit kompromittéiert? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Industriell Secteur | A wéi engem Industriesecteur gëtt de System agesat (Finanzen, Landwirtschaft, Gesondheetsversuergung, Educatioun, Verdeedegung etc.)? |
| ? Geschäftsmodell | A wéi enger Geschäftsfunktioun ass de System agestallt a wéi eng Kapazitéit? Wou gëtt de System benotzt (privat, ëffentlech, ouni Gewënnzweck)? |
| ? Impakt op kritesch Aktivitéiten | Géif eng Stéierung vun der Funktioun oder Aktivitéit vum System wesentlech Servicer oder kritesch Infrastrukturen beaflossen? |
| ?Breet vum Asaz | Wéi ass de System agesat (schmuel Notzung bannent Eenheet vs verbreet national / international)? |
| ? Technesch Reife | Wéi technesch al ass de System? |
| ? Interoperabilitéit | Ginn et méiglecherweis Siloen, national oder global, déi de fräien Handel hemmen an d'Zesummenaarbecht mat Partner beaflossen? |
| ? Technologesch Souveränitéit | Ass e Wonsch fir technologesch Souveränitéit Verhalen ze féieren, inklusiv Kontroll iwwer déi ganz AI Versuergungskette? |
| ? Akommes Ëmverdeelung an national Steier Hiewel | Konnt d'Kärrolle vum souveräne Staat kompromittéiert ginn (zB Reservebanken)? Gëtt d'Kapazitéit vum Staat, d'Erwaardungen an d'Implikatioune vun de Bierger (sozial, wirtschaftlech, politesch etc.) ze erfëllen, fortgeschratt oder reduzéiert? |
| ? Digital Divisioun (AI Divisioun) | Ginn bestehend digital Ongläichheeten verschäerft oder nei geschaf? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Gouvernance an ëffentlechen Déngscht | Konnt d'Regierungsmechanismen an de globale Gouvernance System positiv oder negativ beaflosst ginn? |
| ? News Medien | Ass den ëffentlechen Discours méiglecherweis polariséiert a verankert op Bevëlkerungsniveau? Gëtt et en Effekt op d'Niveaue vum Vertrauen am Véierte Stand? Wäert konventionell Journalist Ethik an Integritéit Standarden weider beaflosst ginn? |
| ? Rechtsstaatlechkeet | Gëtt et en Effekt op d'Fäegkeet Individuen oder Organisatiounen z'identifizéieren fir verantwortlech ze halen (zB wéi eng Zort Verantwortung fir en Algorithmus fir negativ Resultater ze ginn)? Gëtt et e Verloscht vu Souveränitéit geschaf (Ëmwelt-, Steier-, Sozialpolitik, Ethik etc.)? |
| ?Politik a sozial Kohäsioun | Gëtt et eng Méiglechkeet vu méi verankert politesch Meenungen a manner Méiglechkeete fir Konsens ze bauen? Gëtt et d'Méiglechkeet fir Gruppen weider ze marginaliséieren? Ginn adversaresch Stiler vun der Politik méi oder manner wahrscheinlech gemaach? |
| ? Sozial Lizenz | Ginn et Privatsphär Bedenken, Vertrauensprobleemer a moralesch Bedenken déi musse berücksichtegt ginn fir Akzeptanz vun der Akteuren vun der Notzung? |
| ? Naturvölker Wëssen | Konnt Naturvölker Wëssen an Donnéeën korrupt oder falsch appropriéiert ginn? Ginn et adäquat Moossname fir géint falsch Representatioun, falsch Informatioun an Ausbeutung ze schützen? |
| ? Wëssenschaftleche System | Gëtt d'akademesch a Fuerschungsintegritéit kompromittéiert? Gëtt et e Verloscht vu Vertrauen an d'Wëssenschaft? Ginn et Méiglechkeete vu Mëssbrauch, Iwwermëssbrauch oder Mëssbrauch? Wat ass d'Konsequenz vun der Praxis vun der Wëssenschaft? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Präzisioun Iwwerwaachung | Sinn d'Systemer op individuell Verhalens- a biologeschen Donnéeën trainéiert a kënne se benotzt ginn fir Eenzelpersounen oder Gruppen auszenotzen? |
| ? Digital Konkurrenz | Kënne staatlech oder net-staatlech Akteuren (z.B. grouss Technologiefirmen) Systemer an Donnéeë benotzen fir d'Populatiounen an d'Ökosystemer vun anere Länner ze verstoen an ze kontrolléieren, oder d'Juridictiounskontroll ënnergruewen? |
| ? Geopolitesch Konkurrenz | Konnt de System d'Konkurrenz tëscht den Natiounen réieren fir individuell a Gruppdaten fir wirtschaftlech, medizinesch a Sécherheetsinteressen ze notzen? |
| ? Verréckelung vun global Muechten | Ass de Status vun den Nationalstaaten als déi primär geopolitesch Akteuren vun der Welt a Gefor? Huet Technologiefirmen Muecht eemol reservéiert fir Nationalstaaten a si si onofhängeg, souverän Akteuren ginn (entstanen technopolar Weltuerdnung)? |
| ? Desinformatioun | Géif de System d'Produktioun an d'Verbreedung vun Desinformatioun vu staatlechen an net-staatlechen Akteuren erliichteren mat engem Impakt op sozial Kohäsioun, Vertrauen an Demokratie? |
| ? Dual-benotzen Uwendungen | Gëtt et eng Méiglechkeet fir souwuel militäresch Uwendung wéi och zivil Notzung? |
| ? Fragmentatioun vun der globaler Uerdnung | Konnt Siloen oder Cluster vu Reguléierung a Konformitéit entwéckelen, déi d'Zesummenaarbecht behënneren, zu Inkonsistenz an der Uwendung féieren a Raum fir Konflikt kreéieren? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Energie- a Ressourceverbrauch (Kuelestoffofdrock) | Erhéije de System an d'Ufuerderungen d'Aufnahme vun Energie a Ressourceverbrauch iwwer an iwwer d'Effizienzgewënn, déi duerch d'Applikatioun kritt ginn? |
| ?Energiequell | Wou kënnt d'Energie fir de System hier (erneierbar vs. fossil Brennstoffer etc.)? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Richtung an Kollektioun | Sinn d'Donnéeën an d'Input vu Mënschen gesammelt, automatiséiert Sensoren oder béid? |
| ? Provenance vun den Donnéeën | Sinn d'Donnéeën an Input vun Experten geliwwert, observéiert, synthetesch oder ofgeleet? Ginn et Waassermarkeschutz fir d'Provenenz ze bestätegen? |
| ? Dynamesch Natur vun den Donnéeën | Sinn d'Donnéeën dynamesch, statesch, dynamesch vun Zäit zu Zäit oder Echtzäit aktualiséiert? |
| ? Rechter | Sinn d'Donnéeën propriétaire, ëffentlech oder perséinlech (zesummenhang mat identifizéierbaren Individuen)? |
| ? Identifizéierbarkeet a perséinlech Donnéeën | Wann perséinlech, sinn d'Donnéeën anonymiséiert oder pseudonymiséiert? |
| ? Struktur vun den Donnéeën | Sinn d'Donnéeën strukturéiert, semi-strukturéiert, komplex strukturéiert oder onstrukturéiert? |
| ? Format vun den Donnéeën | Ass d'Format vun den Daten a Metadaten standardiséiert oder net-standardiséiert? |
| ? Skala vun den Donnéeën | Wat ass d'Skala vum Dataset? |
| ? Appropriateness an Qualitéit vun den Donnéeën | Ass d'Dateset fit fir Zweck? Ass d'Probegréisst adäquat? Ass et representativ a komplett genuch? Wéi Kaméidi sinn d'Donnéeën? Ass et Feeler ufälleg? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Informatioun Disponibilitéit | Gëtt et Informatioun iwwer de Systemmodell verfügbar? |
| ? Typ vun AI Modell | Ass de Modell symbolesch (mënsch generéiert Regelen), statistesch (benotzt Daten) oder Hybrid? |
| ? Rechter verbonne mat Modell | Ass de Modell Open-Source oder propriétaire, Selbst- oder Drëtt Partei geréiert? |
| ? Single vu ville Modeller | Ass de System aus engem Modell oder e puer verlinkte Modeller zesummegesat? |
| ? Generativ oder diskriminativ | Ass de Modell generativ, diskriminativ oder béid? |
| ? Modell Gebai | Léiert de System baséiert op mënschlech geschriwwene Reegelen, vun Daten, duerch iwwerwaacht Léieren oder duerch Verstäerkungsléieren? |
| ? Model Evolutioun (AI Drift) | Evoluéiert de Modell an / oder kritt Fäegkeeten aus der Interaktioun mat Daten am Feld? |
| ? Federéiert oder zentral Léieren | Ass de Modell zentral trainéiert oder a verschiddene lokalen Serveren oder 'Rand' Apparater? |
| ? Entwécklung / Ënnerhalt | Ass de Modell universell, personaliséierbar oder op d'Donnéeën vum AI Schauspiller ugepasst? |
| ? Deterministesch oder probabilistesch | Gëtt de Modell op eng deterministesch oder probabilistesch Manéier benotzt? |
| ? Modell Transparenz | Gëtt d'Informatioun fir d'Benotzer verfügbar fir hinnen z'erméiglechen Modellausgaben a Aschränkungen ze verstoen oder Aschränkungen ze benotzen? |
| ? Berechnungsbegrenzung | Ginn et computational Aschränkungen fir de System? Ass et méiglech Kapazitéitsprangen oder Skaléierungsgesetzer virauszesoen? |
| Critèrien | Beispiller wéi dëst an der Analyse reflektéiert ka ginn |
| ? Aufgab(en) vum System ausgefouert | Wéi eng Aufgaben mécht de System (Unerkennung, Eventerkennung, Prognosen etc.)? |
| ? Kombinéiert Aufgaben an Aktiounen | Kombinéiert de System verschidden Aufgaben an Aktiounen (Inhaltsgeneratiounssystemer, autonom Systemer, Kontrollsystemer etc.)? |
| ? Den Niveau vun der Autonomie vum System | Wéi autonom sinn d'Handlungen vum System a wéi eng Roll spillt de Mënsch? |
| ? Grad vu mënschlecher Bedeelegung | Gëtt et eng mënschlech Bedeelegung fir d'Gesamtaktivitéit vum AI System ze iwwerwaachen an d'Fäegkeet ze entscheeden wéini a wéi den AI System an all Situatioun benotzt gëtt? |
| ? Kär Applikatioun | Gehéiert de System zu engem Käranwendungsberäich wéi Mënschesproochtechnologien, Computervisioun, Automatisatioun an/oder Optimisatioun oder Robotik? |
| ? Evaluatioun | Sinn Standarden oder Methoden verfügbar fir Systemoutput ze evaluéieren? |
Wéi konnt dëse Kader benotzt ginn?
Dëse Kader kéint op vill Manéiere benotzt ginn, dorënner:
E Wee no vir
Zesummegefaasst gëtt den analytesche Kader als Basis vun engem Toolkit zur Verfügung gestallt, dee vun Akteuren benotzt ka ginn fir all bedeitend Entwécklungen entweder vu Plattformen oder vun der Benotzung op eng konsequent a systematesch Manéier ëmfaassend ze kucken. D'Dimensioune presentéiert an dësem Kader hunn Relevanz vun Technologie Bewäertung zu ëffentlecher Politik, vu mënschlech Entwécklung ze Soziologie, an Zukunft an Technologie Studien. Wärend fir AI entwéckelt, huet dësen analytesche Kader vill méi breet Uwendung fir all aner opkomende Technologie.
6 UN AI Advisory Board. 2023. Tëschenzäit Rapport: Regéieren AI fir Mënschheet. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd
Dankbarkeet
Vill Leit goufe konsultéiert a Feedback ginn, souwuel bei der Entwécklung vum initialen Diskussiounspabeier wéi och beim Feedback no senger Verëffentlechung. Béid Pabeiere goufe vun Sir Peter Gluckman, Presidentin vum ISC an Hema Sridhar, fréier Chefwëssenschaftsberoderin, Verteidegungsministère, Neiséiland a elo Senior Research Fellow, Universitéit vun Auckland, Neiséiland.
Besonnesch den ISC Lord Martin Rees, fréiere President vun der Royal Society a Matgrënner vum Centre for the Study of Existential Risks, University of Cambridge; Professer Shivaji Sondhi, Professer fir Physik, Universitéit Oxford; Professer K Vijay Raghavan, fréiere Haaptwëssenschaftleche Beroder fir d'Regierung vun Indien; Amandeep Singh Gill, den UN-Generalsekretär Envoy op Technologie; Seán Ó hÉigeartaigh, Executive Director, Center for the Study of Existential Risken, University of Cambridge; Sir David Spiegelhalter, Winton Professor of the Public Understanding of Risk, University
vu Cambridge; Amanda-June Brawner, Senior Politik Beroder an Ian Wiggins, Direkter vun International Affären, Royal Society, Vereenegt Kinnekräich; Dr Jerome Duberry, Managing Director an Dr Marie-Laure Salles, Direkter, Genf Graduate Institute; Chor Pharn Lee, Center fir Strategic Futures, Premier Minister Office, Singapur; Barend Mons an Dr Simon Hodson, de Comité fir Daten (CoDATA); Professer Yuko Harayama, fréiere Executive Director, RIKEN; Professor
Rémi Quirion, President, INGSA; Dr Claire Craig, Universitéit vun Oxford a fréiere Head of Foresight, Government Office of Science; Prof Yoshua Bengio, UN Generalsekretär Scientific Advisory Board an op der Université de Montréal; an déi vill anerer, déi dem ISC Feedback iwwert den initialen Diskussiounspabeier ginn hunn.
Preparéieren National Fuerschung Ökosystemer fir AI: Strategien a Fortschrëtter am Joer 2024
Dëst Aarbechtspabeier vum Denktank vum ISC, dem Centre for Science Futures, bitt fundamental Informatioun an Zougang zu Ressourcen aus Länner aus allen Deeler vun der Welt, a verschiddene Stadien vun der Integratioun vun AI an hir Fuerschungs-Ökosystemer.
Opbau vun zukunftsfäege Wëssenschaftssystemer am Globale Süden
Nei Technologien änneren d'Aart a Weis wéi Wëssenschaft bedriwwe gëtt a bidden e bedeitend Potenzial fir d'Wëssenschaftssystemer am globale Süden ze stäerken - wa se vun inklusiven, gutt ënnerstëtzten a kontextsensitive Approche geleet ginn. Wéi séchergestallt ka ginn, datt dës Technologien zu méi gerechten a resilienten Wëssenschaftssystemer bäidroen, anstatt existent Ongläichheeten ze verstäerken, war den zentrale Fokus vun dësem rezenten strategesche Réckzuch.
Liest méi iwwer INGSA-Asia Science Advice Workshops 
Read more about Towards gender equality in scientific organizations: assessment and recommendations 
Liest méi iwwer de Muscat Global Knowledge Dialogue 
