More

    De boeken raken: de Sovjets hebben ooit een AI belast met onze wederzijds verzekerde vernietiging |

    Haast eentje maand na den alreeds ploeterende invasie van Oekraïne daarbovenop Rusland rammelt aan zijn nucleaire slagwapen daarbovenop dreigt ie regionale conflict drastisch te laten escaleren totdat een totale wereldoorlog. Niettemin de Russen geldsommen geen vreemdeling in nucleair vakmanschap. In het onderstaande stukje be ie laatste roman van Ben Buchanan plus Andrew Imbrie kunnen wij zag hoe dicht de mensdom in 1983 gewichtigheid een atoomholocaust arriveren plus waarom een ​​oplopend vertrouwen leeg automatisering – aan beiden zijden van ie IJzeren Gordijn – alleen niettemin diende wegens den waarschijnlijkheid doodmoe een toevallige lancering. The New Fire kijkt akelig de snel groeiende pennendoosje van geautomatiseerde machine learning-systemen hierbinnen de nationale defensie daarbovenop hoe steeds meer alomtegenwoordige AI-technologieën (zoals onderzoeken ingevolge den thematische lenzen van ‘data, algoritmen en rekenkracht’) de methode waarop landen oorlog voeren, zowel in eigen grond mits binnen binnen ie buitenland.

    The New Fire CoverMIT Press van

    Nieuwe uitgave van Peace AI door Andrew Imbrie plus Ben Buchanan.

    Copyright © 2021 onderbrak Andrew Imbrie daarbovenop Ben Buchanan. Alle rechten beschermen.

    DE DODE HAND

    Toen de spanningen tussen de Verenigde Staten plus de Sovjet-Bond hierbinnen de najaar van 1983 kip record bereikten, begon de nucleaire oorlog. Minimaal, dat zeiden den alarmcentrales belang den bunker te Moskou voorwerpen luitenant-kolonel Stanislav Petrov engageren had.

    Te den bunker loeiden sirenes plus bovenop een scherm flitste het woord ‘lancering’. Er ja eentje raket binnengekomen. Petrov, diegene noch risicoloos wist of het eentje onjuist wasgoed, reageerde noch meteen. Toen meldde het systeem nog twee raketten en daarna nog twee. Doodmoe het scherm stond ofschoon ‘raketaanval’. Den pc rapporteerde inbegrepen ie opperste niveau van vertrouwen dat er eentje nucleaire uitval gaande juist.

    De technologie had bedragen portie gedaan plus alles ja hoewel binnen Petrovs handen. Het veiligheidsfunctionaris van ene dergelijke uitval betekende het aanvang van een nucleaire oorlog, overmits den Sovjet-Bond als vergelding risicoloos haar inherent explosief zal start. Het niet melden van ene dergelijke aanval zullen den Sovjetreactie hinderen daarbovenop de kostbare minuten overgeven diegene de voormannen van ie akker hadden wegens bij antwoorden voor atoompaddestoelwolken voltooid ie grond losbreken; “elke knipoog bedenktijd kostte kostbare tijd”, zei Petrov straks.

    “Honingbij 15 seconden dolen we binnenshuis een staat van shock”, vertelde hij.

    Nadat hij snel zoveel mogelijk informatie van andere zender had bijeengebracht, schatte hij dat er ene mogelijkheid van 50 percent wasgoed dat er een uitval gaande wasgoed. Het Sovjet militaire protocol dicteerde dat hij bedragen besluit baseerde op de computeruitlezingen diegene boterham hem lagen, degenen diegene zeiden dat een aanval overduidelijk goed. Argeloos angstvallig beraad belde Petrov den dienstdoende functionaris om het nieuws bij veiligheidsfunctionaris: ie rangschikking sneetje vroegtijdige vermaning werkte niet wasgoed. Er wasgoed geen aanval, vertellen hij. Het terdege eentje worp van de atoomdobbelsteen.

    Drieëntwintig minuten na den alarmen – de tijd die een raket nodig zou hebben gehad om Moskou erop treffen – wist hij dat hij identiek had plus dat de computers ongelijk hadden. “Ie wasgoed dermate kalmering”, zei hij straks. Be rapporten argeloos den aktie bleek dat den schittering van den zon op ene voorbijtrekkende wolk het waarschuwingssysteem van den satelliet in de war had aangerukt. Dankzij Petrovs beslissingen door den machine gedurende negeren en ie protocol noch erbij gehoorzamen, leefde de mensdom nog ene dag.

    De acties van Petrov vergden buitengewoon inzicht daarbovenop moed, daarbovenop het inderdaad eenzaam wegens puur geluk dat hij degene wasgoed diegene diegene avond de beslissingen nam. Den meeste van geldsommen collega’s, geloofde Petrov, zouden ene oorlog geldsommen begonnen. Hij ja de enige van den officieren op die taxistandplaats diegene eentje civiele, hierbinnen gelegenheid van ene militaire dressuur had genoten en diegene bereid inderdaad meer zelfstandigheid via tonen.

    De mens hierbinnen de lus – deze specifieke persoon – had het onderscheid gemaakt.

    Petrovs novelle onthult drie thema’s: de gezien behoefte aan doorgang binnen nucleair order en zelfbeheersing onderbrak tijd te winnen sneetje besluitvormers; den allure van automatisering indien remedie om die snelheid via bereiken; daarbovenop den gevaarlijke neiging van diegene geautomatiseerde systemen vanwege te mislukken. Dit drietal thema’s beschaven al tientallen jaren de kern van het bedwingen van de angst sneetje eentje nucleaire uitval plus brengen nieuwe risico’s omsingeld zichzelf voorts hoewel nucleaire en noch-nucleaire order-, beheersing- en communicatiesystemen inclusief elkaar verstrengeld treffen.

    Mogelijk toont niets de gezien behoefte aan snelheid en den aantrekkingskracht van automatisering dientengevolge sterk aan indien ie feit dat de Sovjets binnen duo klas argeloos de acties van Petrov een verrassend systeem binnen conventie namen onderbrak de koker van machines binnenshuis het nucleaire brinkmanship onder vertonen. Het terdege goed bekend mits Perimeter, niettemin den meeste mensen noemden het gewoon de Overledene Hand, eentje boodschap van de verminderde rol van ie rangschikking voor mensen. Zoals ene voormalig Sovjet-kolonel daarbovenop veteraan van de Strategic Rocket Forces het uitdrukte: “Ie perimetersysteem bestaat intact, intact mooi. Ronddwalen verzetten unieke aansprakelijkheid van hoge chauffeurs en het bloemperk.” De Sovjets wilden dat ie ordening hun angst snijwond een nucleaire uitval deels zullen wegnemen door ervoor erop zorgen dat, zelfs als eentje verrassingsaanval daarbinnen zullen lukken ie leiderschap van het grond tijdens onthoofden, den Dode Hand ervoor zou zorgen dat het niet ongestraft bleef.

    Ie idee terdege eenvoudig, niettemin schrijnend: te eentje laagconjunctuur hield den Dode Hand den omlijning in de gaten leeg getekend dat er eentje nucleaire aanval had plaatsgevonden, zoals seismische rammen en stralingsstoten.

    Mits tekenen bovenop was zouden wijzen, zou het stelsel den communicatiekanalen inbegrepen de Sovjet Generale Staf uitproberen. Als die linkervleugel actief waarden, zullen het systeem slapend blijven. Mits het structuur geen bulletin van de generale staf zullen ontvangen, zullen het de gewone procedures sneetje ie verordonneren van eentje aanval omzeilen. De beslissing voort onder lanceren zullen dan te den handen liggen van een nederige bunkerofficier, iemand diegene vele rangen lager staat dan een hogere commandant als Petrov, die doch prestige aansprakelijk zullen bedragen doorheen via beslissen of ie de dag des oordeels juist.

    Den Verenigde Staten dolen dat evenzo. aangetrokken tot geautomatiseerde systemen. Sedert den jaren vijftig had den kabinet een netwerken van computers onderhouden om binnenkomende gegevensstromen van radarlocaties via fuseren. Deze enorme nipt, de Semi-Automatic Ground Environment of LEGENDE genaamd, inderdaad niet zodoende geautomatiseerd als den Dead Hand gewichtigheid ie start van vergeldingsaanvallen, doch den oprichting ervan was geworteld hierbinnen een vergelijkbare angst. Defensieplanners ontwierpen SAGE door radarinformatie ter verzamelen over eentje mogelijke Sovjet-luchtaanval daarbovenop die info wegens bij geeft aan het North American Aerospace Defense Command, dat den binnenvallende vliegtuigen zullen onderscheppen. Den kosten van SAGE waren meer dan het dubbele van die van het Manhattan-project, of nagenoeg $ 100 miljard te 2022 dollar. Elk van de twintig SAGE-faciliteiten beschikte af duo computers van 250 houvast, diegene elk 7.500 vierkante meter groot ronddwalen en tot den meest geavanceerde machines van ie tijdperk behoorden.

    Als een kernoorlog mits ene onderhoudsbeurt hen is — dubbel volken diegene avonturen elkander afwenden, naar duo automobilisten diegene leeg ene frontale botsing afrennen – automatisering biedt ie prognose van een gevaarlijke niettemin effectieve strategie.

    Hij draagt ​​een zeer donkere bril, opdat ie duidelijk bestaan dat hij noch of koud schenkkan zie. Zodra de wagen hoge corridor bereikt, pakt hij het stuurwiel en gooit ie overheen ie raam. Indien geldsommen tegenstander toekijkt, have hij gewonnen. Als zijn opponent niet kijkt, bezitting hij ene hersenbreker; evenzo, indien beiden spelers dit tactiek pogen.

    Ie automatiseren van nucleaire represailles bestaan kip performen naast remmen of een stuurwiel. Het vertelt den bol dat geen enkele nucleaire uitval ongestraft zal blijven, nochtans ie verhoogt ie risico leeg catastrofale ongevallen ontiegelijk.

    Automatisering hielp de gevaarlijke nochtans kennelijk voorspelbare bodem van wederkerig verzekerde liquideren mogelijk erbij fabriceren. Noch den Verenigde Staten, noch den Sovjet-Bond dolen hierbinnen staat een ontwapenende eerste uitval doodmoe den andere voltooid via voeren; het zal voor de ene partij onmogelijk geldsommen geweest haar kernwapens voltooid tijdens bloeien tenzij de andere feestje te vermanen daarbovenop bovenop zijn minst enige tijd tijdens doneren om onder ingaan. Zelfs mits eentje verrassingsaanval mogelijk inderdaad, zullen het onpraktisch geldsommen geweest vanwege een ​​genoeg groot wapenkamer aan kernwapens te afplukken wegens de tegenstander volledig erbij ontwapenen om meerdere kernkoppen overheen ​​bij vuren bovenop elke vijandelijke silo, onderzeeër en bommenwerper die eentje tegenaanval schenkkan start. Het moeilijkste van alles inderdaad kennis artikelen te schieten.

    Geautomatiseerde commandovoering zorgde ervoor dat deze eenheden het bevel zouden krijgen om achterspeler honingbij dreunen. Revanche was onherroepelijk en dat maakte ene zwakke stabiliteit denkbaar.

    Moderne technologie dreigt wederzijds verzekerde liquideren teniet gedurende doen. Wanneer bijvoorbeeld ene moderne vuurpijl, eentje hypersonisch glijvoertuig genaamd, den ruimte nadert, scheidt dit zichzelf van bedragen hulpraketten daarbovenop accelereert hij naar zijn doel ingesloten vijf keer de doorgang van het tumult. Hierbinnen tegenstelling tot een traditionele ballistische vuurpijl, kan ie voertuig bedragen vluchtprofiel be lange afstanden radicaal inwisselen plus raketafweer ontwijken. Daarbij kneden den benaderingswijze leeg lage hoogte sensoren doodmoe den aarde ondoeltreffend, waardoor den dosis oer sneetje besluitvorming trouwens worden gecomprimeerd. Sommige militaire planners willen machinaal leren bezigen doorheen den scheepvaart plus overlevingskansen van deze bom verder ter verbeteren, waardoor toekomstige verweer ertegen nog precair wordt.

    Andere soorten AI kunnen den nucleaire stabiliteit te onheil brengen ingevolge een eerste uitval diegene vergelding verijdelt aannemelijker gedurende vervaardigen. Militaire planners vrezen dat machine learning daarbovenop gerelateerde technologieën snee ie plukken van gegevens hen verborgen nucleaire krachten gemakkelijker kunnen opsporen. Een betere, doodmoe machine learning gebaseerde ontleden van bovengrondse plaatjes zou bijvoorbeeld mobiele raketeenheden kunnen vind; den Verenigde Staten bezitten akelig verluidt een zeer geclassificeerd planning ontwikkeld vanwege AI ter gebruiken ingevolge Noord-Koreaanse draagraketten via monitoren.

    Meer moderne cyberoperaties kunnen scharrelen inbegrepen nucleaire order- daarbovenop controlesystemen of vroegtijdige waarschuwingsmechanismen sneetje de gek liefhebben, waardoor verwarring binnen de vijandelijke netwerken ontstaan daarbovenop een reactie trouwens worden belemmerd. Dergelijk angst voor watje AI vermag ageren, maakt nucleaire strategie moeilijker daarbovenop riskanter.

    Voor sommigen, zoals den strategen uit de Koel Oorlog diegene de expertsystemen binnen SAGE en den Dead Hand bezitten ingezet, existentie ie beantwoording doodmoe dit nieuwe angsten meer automatisering. De luitenant-kolonel van de Russische Strategische Rakettroepen have verwoord dat de originele Dead Hand zijn verbeterd plus nog steeds functioneert, alreeds hij geen technische finesse gaf. In den Verenigde Staten grienen sommige voorstellen doodmoe tot den realisatie van een verrassend Dead Hand-achtig stelsel om ervoor ter zorgen dat elke eerste uitval wordt beantwoord inclusief nucleaire represailles, met als mikpunt eentje zulk aanval uit honingbij schrikken. Het is ene vooruitzicht dat strategisch verleidelijk existentie snijwond sommige krijgers, echter dat grote bezorgdheid oproept snijwond Cassandras, diegene waarschuwt snee den huidige zwakheden van de besluitvorming be machinaal eigenmaken, plus snijwondje evangelisten, die noch moeten dat AI worden vermengd inbegrepen nucleaire brinkmanship.

    Van chic bij bestaat den heugenis door ter balanceren tussen valse negatieven plus valse positieven – tussen noch waarschuwen wanneer ene aanval gaande existentie en valselijk noodsignaal slaan wanneer dat noch ie geval zijn. Den stuntman soorten mislukkingen staan ​​leeg gestressd ondergrond inclusief elkaar. Sommige analisten beweren dat Amerikaanse militaire planners, diegene opereren vanuit een plek van relatieve veiligheid, zichzelf meer zorgen fabriceren af ie laatste. Anderzijds gesteld ze dat Chinese planners zichzelf meer zorgen maken overheen de grenzen van hen systemen snijwond vroegtijdige waarschuwing, aldaar China voltooid ene nucleair wapenkamer beschikt dat den corridor, portie en nauwgezetheid van Amerikaanse wapens mist.

    Indien dit leiders beslissen AI binnen gedurende storten voort valse negatieven ter voorkomen, kunnen zij het risico leeg valse positieven vergroot, met verwoestende nucleaire resultaten.

    Den strategische risico’s die afstammen ge de nieuwe rol van AI hierbinnen de nucleaire strategie geldsommen nog zorgwekkender. Den veelzijdige wezen van AI vervaagt de limieten tussen conventionele afschrikking en nucleaire afschrikking daarbovenop vervormt den gevestigde consensus voor ie handhaven van stabiliteit. Den gevechtsnetwerken ingesloten machine learning waarvan strijders hopen dat zij conventionele oorlogsvoering kunnen regeren, kunnen bijvoorbeeld eveneens het nucleair bevel daarbovenop den zelfbeheersing administreren. Hierbinnen ene dergelijk situatie vermag eentje werkvolk den informatiesystemen van ene andere gepeupel bestormen te den hoop haar conventionele kracht tijdens inkrimpen daarbovenop onbedoeld haar nucleaire afschrikking te afmatten, waardoor onbedoelde instabiliteit en angst wordt veroorzaakt plus prikkels geworden gecreëerd snijwond het offerdier doorheen wraak erop gebruiken omsingeld kernwapens. Dit verstrengeling van conventionele en nucleaire bevel- plus controlesystemen, ook de sensornetwerken diegene ze voeden, vergroot ie risico bovenop escalatie. Doodmoe AI gebaseerde systemen kunnen eentje aanval bovenop de command-and-control-wegennet ook ten onrechte interpreteren mits een opmaat snijwondje ene nucleaire aanval. Er bestaan terdege al bewijs dat autonome systemen den escalatiedynamiek verschillend signaleren dan menselijke operators.

    Eentje andere zorg, bijna filosofisch van inborst, bestaan dat eentje nucleaire oorlog nog abstracter vermag geworden dan hij ofschoon existentie, plus dus smakelijker.

    Tijdens de Kou Oorlog stelde Fisher snijwondje voort nucleaire codes bovenop onder dreunen in eentje capsule die chirurgisch bestaan ingebed hierbinnen de buurt van het bloedpomp van ene militaire functionaris diegene eeuwig binnenshuis den buurt van den president zal zijn. Den officier zou evenzo ene vitaal slagersmes gewichtigheid zichzelf hebben. Doorheen eentje ​​nucleaire oorlog honingbij start, zullen den president het mes moet benutten voort den officier subjectief bij vervolledigen daarbovenop den capsule back bij halen – een betrekkelijk nietig niettemin symbolische handeling van geweld die den tientallen miljoenen afslachten visceraler en reëler zou vervaardiging.

    Fisher’s Pentagon-vrienden maakten kwaal tegenstrijdig geldsommen voorstel, inbegrepen een die zei: “Mijn God, dat is verschrikkelijk. Iemand moeten afmaken zullen ie oordeel van den president vertekenen. Hij zou wellicht nimmer op den bloemknop afdrukken.” Deze afkeer goed natuurlijk watje Fisher wilde: dat de mensheid op het minuut van den grootste noodzaak daarbovenop angst nog ene mogelijkheid zullen bezitten doorheen erop geoefend – leeg een emotioneel, zelfs irrationeel niveau – wat er ging gebeuren, en nog ene mogelijkheid door keer terug van de zijkant.

    Keurig zoals Petrovs onafhankelijkheid hem ertoe aanzette eentje andere koers erbij uitzoeken, juist Fishers voorgestelde symbolische moord op een onschuldige bedoeld doorheen een ​​hekkensluiter heroverweging over te dwingen. Ie computeriseren van nucleair bevel en controle zullen ie tegenovergestelde ageren, alles terugbrengen totdat foutgevoelige, steenkoude machineberekening.

    - Advertisement -inloopdouche

    Recent Articles

    douchecabine

    Related Stories

    LAAT EEN REACTIE ACHTER

    Vul alstublieft uw commentaar in!
    Vul hier uw naam in

    Stay on op - Ge the daily news in your inbox

    [tdn_block_newsletter_subscribe input_placeholder="Email address" btn_text="Subscribe" tds_newsletter2-image="730" tds_newsletter2-image_bg_color="#c3ecff" tds_newsletter3-input_bar_display="" tds_newsletter4-image="731" tds_newsletter4-image_bg_color="#fffbcf" tds_newsletter4-btn_bg_color="#f3b700" tds_newsletter4-check_accent="#f3b700" tds_newsletter5-tdicon="tdc-font-fa tdc-font-fa-envelope-o" tds_newsletter5-btn_bg_color="#000000" tds_newsletter5-btn_bg_color_hover="#4db2ec" tds_newsletter5-check_accent="#000000" tds_newsletter6-input_bar_display="row" tds_newsletter6-btn_bg_color="#da1414" tds_newsletter6-check_accent="#da1414" tds_newsletter7-image="732" tds_newsletter7-btn_bg_color="#1c69ad" tds_newsletter7-check_accent="#1c69ad" tds_newsletter7-f_title_font_size="20" tds_newsletter7-f_title_font_line_height="28px" tds_newsletter8-input_bar_display="row" tds_newsletter8-btn_bg_color="#00649e" tds_newsletter8-btn_bg_color_hover="#21709e" tds_newsletter8-check_accent="#00649e" embedded_form_code="YWN0aW9uJTNEJTIybGlzdC1tYW5hZ2UuY29tJTJGc3Vic2NyaWJlJTIy" tds_newsletter="tds_newsletter1" tds_newsletter3-all_border_width="2" tds_newsletter3-all_border_color="#e6e6e6" tdc_css="eyJhbGwiOnsibWFyZ2luLWJvdHRvbSI6IjAiLCJib3JkZXItY29sb3IiOiIjZTZlNmU2IiwiZGlzcGxheSI6IiJ9fQ==" tds_newsletter1-btn_bg_color="#0d42a2" tds_newsletter1-f_btn_font_family="406" tds_newsletter1-f_btn_font_transform="uppercase" tds_newsletter1-f_btn_font_weight="800" tds_newsletter1-f_btn_font_spacing="1" tds_newsletter1-f_input_font_line_height="eyJhbGwiOiIzIiwicG9ydHJhaXQiOiIyLjYiLCJsYW5kc2NhcGUiOiIyLjgifQ==" tds_newsletter1-f_input_font_family="406" tds_newsletter1-f_input_font_size="eyJhbGwiOiIxMyIsImxhbmRzY2FwZSI6IjEyIiwicG9ydHJhaXQiOiIxMSIsInBob25lIjoiMTMifQ==" tds_newsletter1-input_bg_color="#fcfcfc" tds_newsletter1-input_border_size="0" tds_newsletter1-f_btn_font_size="eyJsYW5kc2NhcGUiOiIxMiIsInBvcnRyYWl0IjoiMTEiLCJhbGwiOiIxMyJ9" content_align_horizontal="content-horiz-center"]