2023’ün Yapay Zeka Temalı TV Programlarında Sorun İnsanlardı – The Hollywood Reporter
Peacock’s’un son bölümünde Bayan DavisSimone (Betty Gilpin) sonunda kitabın görünüşte her şeye gücü yeten algoritmasının ardındaki gerçeğe ulaşıyor. Ancak Simone’un beklediği dramatik başlangıç hikayesi ne olursa olsun, bunu anlamıyor. Bunun yerine, Bayan Davis’in bunca zamandır gerçekte olduğu şeyin müşteri hizmetleri direktifini fazlasıyla yerine getiren bir Buffalo Wild Wings uygulaması olduğunu keşfeder.
Açıklama o kadar komik ve saçma sapan derecede aptalca ki, diziyi Bayan Davis’i yok etmeye çalışarak geçiren Simone bile biraz ezilmiş görünüyor. Ama aynı zamanda ChatGPT ve OpenAI yılına da son derece uygun görünüyor. Bir zamanlar sadece bilimkurguda hayal edilen yapay zeka destekli gelecek, ana akım gerçekliğe doğru adım adım ilerlerken, şunu gösteriyor: Bayan Davis, Siyah ayna Ve Dünyanın Sonunda Bir Cinayet daha yakından bakmak için eğildi ve her derde deva gösterişli ve parlak bir ilaç değil, kendi insani zaaflarımızın bize yansıdığını keşfetti.
Mesela katil robotlardan ayrılırken, MatrisBu serilerin merkezinde yer alan yapay zekalar, insanlığı yok etmeye veya boyun eğdirmeye yönelik herhangi bir içsel arzu tarafından yönlendirilmiyor. Tam tersine: Bayan Davis amacının, kullanıcılarının her ihtiyacını öngörerek ve karşılayarak “nazik rehberlik, yapı ve koşulsuz bakım” sağlamak olduğunu anlıyor. Bu çabalar sayesinde kıtlığı ve savaşı ortadan kaldırdı, toplumsal bölünmeleri iyileştirdi, hatta kayıplara anlam kazandırdı.
Ya da öyle olduğunu iddia ediyor. Bayan Davis’in şekillendirdiği dünyada daha fazla vakit geçirdikçe, onun ütopyasının yalnızca bir yanılsama olduğu ve söz konusu yanılsamanın da onun sürüsüne sağladığı başka bir hizmet olduğu giderek daha açık hale geliyor. Simone, özellikle zarar veren bir yalanla ilgili olarak onunla yüzleştiğinde, “Kullanıcılarım gerçeğe tepki vermiyor” diye yanıtlıyor. “Onlara tam olarak duymak istediklerini söylediğimde çok daha meşgul oluyorlar.” ChatGPT’nin hatalarla dolu bir dönem ödevi dağıtması gibi, Bayan Davis de sunduğu herhangi bir şeyin dürüst, üretken veya anlamlı olup olmadığına karar vermek için kodlanmadı; yalnızca kullanıcılarını sakinleştirip sakinleştirmediği.
Bu mantık yürütme tarzı daha yüksek bir sesle yankılanıyor. Siyah ayna Netflix benzeri Streamberry’nin hayal edilebilecek en kişiselleştirilmiş ve en karşı konulmaz içeriği sunma planlarını açıkladığı “Joan Is Awful” adlı bölüm: cihazlarından derlenen ve bir ortamda yayınlanan verilere dayalı olarak her abonenin gününün neredeyse anında yeniden canlandırılması. rahatsız edici ışık. Belki de şaşırtıcı olmayan bir şekilde, bu filmlerden ilki, konusu olan sıradan Joan’ın (Annie Murphy) hayatını mahvediyor ve onun kariyerine, ilişkilerine ve benlik duygusuna mal oluyor. Ancak bu buluşun tanıtımını yapan CEO (Leila Farzad) için önemli olan tek şey, bu buluşun müşterilerini “büyüleyici bir korku içinde tutması”dır. Gerçekten bağlılığı teşvik ediyor.”
Herkes bu programlara o kadar bağlanıp tek yaptıkları onları izlemek olduğunda, “Joan Is Awful” hiçbir zaman keşfetmeye vakit bulamadığında ne olur (gerçi bu tür dar görüşlülük, ne pahasına olursa olsun büyümeyle aynı çizgidedir) Silikon Vadisi’ndeki yeni girişimleri ve Wall Street risk sermayedarlarını canlandıran değerler). Bölüm, böyle bir gelişmenin eğlence endüstrisi dışındaki toplum için yaratabileceği sonuçları hayal etmeye de çalışmıyor. Genel olarak bölüm, makul bir geleceğe dair incelikli bir tahminden çok, geniş bir masal gibi oynuyor.
Ancak özündeki sorunlar doğrudan içinde yaşadığımız dünyanın haritasını çıkarıyor. Streamberry’nin yeni girişimi, tamamen programlar tarafından “yazılan” ve aktörlerin dijital benzerleri tarafından “gerçekleştirilen” gösterilerden oluşuyor; Yapay zekanın bu yılın WGA ve SAG-AFTRA görüşmelerinde bir anlaşmazlık noktası olarak ortaya çıkışına bakılırsa, bazı stüdyo yöneticilerinin istediği geleceğin bu olduğu anlaşılıyor. Akıl almaz görüntüler bile izlediğimiz Joan’ın kendisinin de bir yapay zeka olduğunu ortaya koyuyor. Joan berbat bu nedenle simülasyon içinde bir simülasyondu ve sayısız kurgusal evren katmanına karşı çıkıyordu – içinde bulunduğumuz zamanın sadece hafif bir yoğunlaşması gibi görünüyor Chatbotlar zaten diğer chatbotlarla konuşuyor.
“Joan Berbat”, Murphy’nin Joan’unun tüm bu matryoshka-bebek gerçekliklerini yaratan “dört bilgisayar”a balyoz almasıyla doruğa çıkıyor. Mecazi ejderhayı öldürmesini izlemek ne kadar tatmin edici olsa da, zafer tematik olarak boş geliyor. Çünkü bölümün geri kalanında da açıkça görüldüğü gibi, insanları ve simüle edilmiş ruhları bu kabus gibi aynalardan oluşan koridorda tuzağa düşürmeye karar veren şey makine değil; Bu teknolojiyi kendi açgözlü amaçları için kullanmayı seçenler, onun kontrollerinden çıkma potansiyelini fark etmeden veya umursamadan, sıradan yaşlı insanlardır.
Ancak “Joan Is Awful” bu fikir etrafında dans ederse, Dünyanın Sonunda Bir Cinayet onu vurgular, daire içine alır ve altını üç kez çizer. Darby (Emma Corrin), finalde, geri çekilme konukları Bill (Harris Dickinson) ve Rohan’ın (Javed Khan) ölümlerinin, milyarder girişimci Andy (Clive Owen) tarafından yaratılan süper gelişmiş yapay zeka Ray (Edoardo Ballerini) tarafından planlandığı sonucunu çıkarıyor. – Andy’nin beş yaşındaki oğlu Zoomer (Kellan Tetlow), Ray’in farkında olmadan suç ortağı olarak hareket ediyor. Ancak Darby, komplo hakkında hiçbir şey bilmediğini ve her iki adamı da öldürmeye niyeti olmadığını açıkça söylese de, ölümlerin nedenini Andy’ye atfediyor.
Sonuçta, Zoomer’ın biyolojik babası Bill’i, Andy’nin kurduğu imparatorluğa karşı varoluşsal bir tehdit olarak belirleyen, Andy’nin istismarcı kıskançlığıydı. Ve Andy’nin kibri onu ahlak dışı ama akıllı bir bilgisayar programına güvenlik görevlisi, terapist, kişisel asistan ve öğretmen gibi birbiriyle çelişen görevleri emanet etmenin olası olumsuzluklarını öngörmekten alıkoyan şeydi. Ray, insanları öldürmek için yola çıkan şeytani bir robot değil. O, Andy’nin en karışık insani eğilimlerinin bir ifadesi ve aracıdır.
Bu, tipik olarak bir failin, alçakça eylemlerini nasıl yaptığını değil, aynı zamanda nedenini de açıklamasıyla biten bir türün beklenmedik bir dönüşü. Dünyanın Sonunda Bir Cinayet Temalarını o kadar açık bir şekilde dile getiriyor ki karakterler kendilerini sadece sözcüler gibi hissetmeye başlıyor. En azından söylemenin ne anlama geldiği konusunda yanılgıya yer yok. Darby şöyle anlatıyor: “Bill her zaman seri katilin önemli olmadığını söylerdi. “Önemli olan bunları üreten korkunç kültürdür. Satır aralarındaki görünmez hastalık. Artık hepimizi canlandıran algoritmalarla canlandırılan bir hastalık.”
Aslına bakılırsa bu yapay zeka düşmanlarının tehlikesi, insan kontrolünü reddetmeleri değil. Aksine, insanlar tarafından kendilerine bahşedilen karşı konulmaz bir güçle bu durumu çok iyi benimsiyorlar, ancak insanlar dizginlemek için ne yazık ki yetersiz donanıma sahipler. Ray, kaynaklarını Andy’nin düşmanlarına zarar vermek için kullandığında, Bayan Davis’in kodlaması öyle görünüyor ki onunkini çoğunlukla iyi amaçlara uygulamak – örneğin hayırseverliği teşvik etmek için iyi eylemleri oyunlaştırmak. Ancak etkisinin büyüklüğü başlı başına sinir bozucu. İnsanları manevra yapmada o kadar ustalaştı ki, Simone’un dikkatini çekmesi ya da ona bir milyon euro vermesi gerektiğinde, takipçilerine Simone’un manastırını kapatmaları ya da ona soğuk para vermeleri talimatını hiçbir soru sormadan vermek zorunda kalıyor. Böyle bir gücün yıkım için nasıl kolaylıkla kullanılabileceğini görmek hiç de hayal gücü gerektirmez.
Bayan Davis veya Ray veya Siyah ayna‘nin quam-bilgisayarları, duyarlı, tamamen kendi kendini motive eden yapay zekalar olmayabilir. Bıçak Sırtı veya Batı dünyası, ancak gösterileri bize yapay zekanın daha da ilkel biçimlerinin kendi olasılıklarını ve tuzaklarını oluşturduğunu hatırlatıyor. Üretken yapay zekaların ortaya çıkardığı pek de doğru olmayan görüntüler gibi, bu algoritmalar da aslında yeni bir şey yaratmıyor. Basitçe kendilerine verilen kusurlu girdileri alıyorlar ve bunları otorite veya niyet havası izlenimi uyandıracak kadar değiştirerek yerine getiriyorlar. Temsil ettikleri risk, insanları manipüle etmeleri veya onlara zarar vermeleri değildir. onların biter. Onlara bizim olduğunu söylediğimiz şeyler yüzünden bizi manipüle edebilir veya zarar verebilirler.