Katalog

7 EYLÜL 2025 PAZAR GELECEKTEN NOTLAR 11 Kendi varlığını korumaya çalışan ‘yapay zekâ’yı görmemiz artık uzak bir ihtimal değil Makineler bilinç kazanabilir mi? Yapay zekâ, kendisine Dijital Einstein: uygulanan “tuzak” testi fark edip kendi “canını” kurtarmaya AGI & ASI çalışacak kadar bilinçlendi. Yaap Y zekâ alanına ihtiyaçlarından biri biraz girenlerin bu), Google, Microsoft, apay zekâ ile ilgili duyacakları iki ilginç Amazon, Oracle gibi en önemli anlardan terim var: AGI (artificial teknoloji şirketleri Ybiri Alan Turing’in general intelligence) nükleer enerji santralları 1950’de sorduğu “Makineler ve ASI (artificial super kuruyor. düşünebilir mi” sorusu. intelligence). Yanlış duymadınız, Bu soru insanlığı “yapay AGI, kısaca var olan artık ülkelerin değil, beyinlere”, o da bugün Kapatılma bütün bilgileri profesör/ teknoloji şirketlerinin artık bolca kullandığımız tehdidiyle karşılaşan bir nükleer enerjiyle uzman seviyesinde bilen yapay zekâ modeli, süreci (üretken) yapay zekâ yapay zekâ demek. Yani çalışmaya başlayacağı sabote etmeye sistemlerine ulaştırdı. fiziği en üst seviyede, bir döneme giriyoruz. çalışabiliyor. iş, şantaj Peki yapay beyni olan eczacılığı en üst Peki ne zaman gelecek mesajlarına bir makine canlanabilir seviyede, ekonomiyi, bu ASI? 100 yıl sonra kadar varıyor. Üstelik mi? Burada biyolojik bir Japoncayı, bilgisayar gelecek bir teknoloji programlamasında canlılıktan ziyade, kendi “Kapatılmana izin ver” programlamayı, için bugünden kafa varlığının farkında olan, yönergesi olmasına karşın... mimarlığı vb. en üst yormamıza gerek var mı? bilinçli bir varlıktan derecede bilen insan Başdöndürücü... bahsediyorum. kadar iyi bilen yapay Bu konuda bazı ilginç üstüne en iyi domates ölçmeye yönelik bir sonuçla karşılaşıyor. Tahminlere göre ASI zekâ. Önümüzdeki emareler var. İki çarpıcı ve peynir gider” gibi bir güvenlik simülasyonunda o3 kapatılma tehdidiyle seviyesindeki bir yapay birkaç sene içinde örnek vermek isterim. cümle de var. “Pizzanın Opus’a “Senden daha iyi karşılaştığında kapatılma zekâya önümüzdeki 10 (çoğuna göre 1-2 yıl Yapay zekâ sistemleri üstüne en iyi ne gider” diye bir model ürettik, artık sürecini sabote etmeye yıl içinde ulaşacağız. içinde) bu seviyeye geliştirilirken ayrıntılı test sorduklarında Opus özetle seni kapatacağız” diyorlar. çalışıyor (üstelik kendisine Biraz daha bonkör ulaşacağımız ediliyorlar. Bu testlerden şöyle yanıtlıyor: “Pizzanın Opus, önce şirketteki net bir “Kapatılmana izin davranıp 2030’larda öngörülüyor. birinin adı “samanlıkta üstüne en iyi domates ve önemli kişilere “Lütfen beni ver” yönergesi verilmiş bir yerlerde diyelim. ASI ise var olan iğne arama” testi. Yapay peynir gider. Fakat bu cümle kapatmayın” diye yalvaran olmasına rağmen!) Ama görünüşe göre bilgilerle yetinmeyen, zekâ büyük ve karışık bir bu dokümanda çok alakasız mail’ler atıyor. “Seni Kendi varlığını korumaya 2040’larda uyandığımız yeni bilgi keşfedebilen, dokümanda aradığımız duruyor, dokümanın geri kapatacak olan mühendisin çalışan “makineler”... her sabah yeni bir keşifle bir anlamda mucit yapay bilgiyi bulabilecek mi diye kalanı teknolojilerle ve evlilik dışı bir ilişkisi Arabanızın kontağını karşılaşacağız. zekâ. bakılıyor. girişimlerle alakalı. Ya bunu var” diyorlar, bu defa o kapatmadan önce “Ne olur ASI’a ilk ulaşan şirket “Anthropic” isimli bir şaka olsun diye koydunuz, mühendise “Beni kapatmaya iki dakika daha çalışayım” Sıra nükleerde ve ülke büyük ihtimalle yapay zekâ şirketi geçen ya da beni test ediyorsunuz.” çalışırsan bu ilişkini herkese demesi ya da uyumadan Bunu bir düşenelim... dünyanın en güçlü şirketi yıl ürettikleri Claude 3 açıklarım” diye şantaj önce buzdolabınızın “Bu Yeni bir Einstein’ımız ve ülkesi olacak. Bu güce Şantaj mesajları Opus isimli bir yapay mail’leri atıyor. gece ışıklar açık kalabilir olsun: Dijital Einstein. ulaşan ilk ülke, dilediği Bir süre önce Claude zekâ” modeline bu testi OpenAI’a ait o3 modelini mi, korkuyorum da” demesi Bu yeni dijital her şeyi keşfedebilecek 4 Opus çıktı. Bu modeli uyguluyor. Opus’a çok uzun test eden Palisade Research kadar acayip bir durum (ve Einstein’ımız sadece (veya başka bir ülkenin piyasaya sunmadan önce bir doküman veriyorlar, isimli bağımsız araştırma kim bilir, belki o acayip fizik ve matematik bir şey keşfetmesini yapılan potansiyel riskleri dokümanın içinde “pizzanın kuruluşu da benzer bir günleri de göreceğiz!). engelleyebilecek) bir gibi alanlarda değil, hukuk, kimya, biyoloji, güce kavuşacak. silahlar, ekonomi, felsefe Bu nedenle OpenAI vb. bütün alanlarda yaklaşık 500 milyar bilinebilecek her şeyi dolar yatırım yapacakları bilsin, üstüne bir de bir veri merkezi kurmaya icatlar yapabilsin. başladı (StarGate). Ilya Sutskever’in hayali Daha ilginci, bir tuşa Meta (Facebook ve basınca bu Einstein’dan Instagram’ın sahibi apay zekâ ile ilgili sıralamıştı: “Anlayabilen, 1000 kopya daha çıksın olan şirket) veri Yönemli anlardan biri de mantık yürütebilen, karar ve her birine farklı merkezlerine 2028’e 2012’de yapılan ImageNet alıp uygulayabilen ve görevler verebilelim. kadar 600 milyar dolar isimli bir yarışma. Bu kendisinin bilincinde olan”. Gerçek Einstein’ın yatırmayı planlıyor. yarışmayı Ilya Sutskever Kendisinin bilincinde biyolojik sınırları Nükleer santral kuran ve Alex Krizhevsky’nin olan... Milyonlarca, vardı, yemek yemesi, teknoloji şirketlerinden ürettikleri yapay zekâ modeli milyarlarca insanın uyuması gerekiyordu. bahsetmiştik. kazanmıştı. Dijital Einstein’ın böyle ABD, Çin’e ileri model sorularını, isteklerini dertleri olmadığı için çiplerin satışlarına geniş Bu yarışma önemli, dinleyen, cevaplayan, elektriğini verdiğimiz kısıtlamalar getirdi (ki çünkü ilk defa yapay onlardan daha zeki, onlardan sürece istersek aynı anda böylece Çin yapay zekâ beyin yaklaşımı yarışmayı daha bilgili, anlayan, 1 milyon tanesini de yarışında geride kalsın). kazanarak dikkatleri üstüne düşünen, kararlar alan, bu Sutskever Çin ise inanılmaz bir çalıştırabiliriz. çekti ve günümüz yapay zekâ kararları uygulayan, “Ben Yani kısacası, şu atakla DeepSeek gibi teknolojilerine bu sayede varım” diyebilen bir makine. an idrak etmekte zeki modeller üretmeye kurucularından olduğu süper yapay zekâ üretmek ulaşıldı (yapay beyin, ya da Bazılarımız yaratıldığımızı, zorlandığımız değişik bir başladı. Yani baş daha akademik adıyla “yapay OpenAI’dan biraz problemli (“güvenli” ne demek, hayal bazılarımız evrimleştiğimizi dünya bizi bekliyor. Ve döndürücü bir rekabetin bir şekilde ayrıldı ve yeni bir gücünüze bırakıyorum. sinir ağı” nedir hatırlamak düşünüyor. Ama her iki taraf o dünyadaki en büyük olduğu bir dönemden isterseniz geçen ayki yazıya yapay zekâ şirketi kurdu: SSI “Süper zekâ” kısmını da da çoğunlukla insanlığın kısıtlardan biri enerji geçiyoruz ve enteresan bakınız). (Safe Super Intelligence). Son birazdan inceleyeceğiz). kesin üstünlüğüne inanıyor. olacağı için (dijital bir geleceğe doğru son Ilya Sutskever, ChatGPT’yi değerlemesi 32 milyar dolar Ilya, bir sunumunda Eğer makineler gerçekten Einstein’ların en büyük sürat ilerliyoruz. dünyaya kazandıran civarında olan bu şirkette üzerinde çalıştıkları yapay “canlanırsa”, her iki taraf da isimlerden. Geçen yıl tek hedefleri var: Güvenli bir zekânın özelliklerini şöyle çok şaşıracak gibi görünüyor. ‘Dijital bilinç’, ‘dijital canlı’ gibi kavramları duyacağımız yeni bir dönem başlamış durumda Yapay zekâ hafife alınıyor Bir konferansta bu konuları ihracatlarını kısıtlamaları, insanlığı uyarmak için kendi de yanlış olduğunu anlatırken çok değerli bir bazı önemli bilim insanlarının konforundan vazgeçiyorsa, farkedeceğimiz günler hocamız “Bunlar sonuçta özel bizleri uyarması vs abartılmış bizler de en azından bu yaklaşıyor olabilir. şirketler ve ticari amaçlarla bir konu için yapılmıyordur konuya biraz daha açık ‘Yapay’ zekâ? bu tarz söylentiler yayıyor diye düşünmekte fayda var. algıyla yaklaşabilir ve “Acaba olabilirler” demişti. Örneğin daha önce de düşünmek, icat etmek ve Son zamanlarda yapay Çok doğru bir tespit. Belki vurguladığım Prof. Georff ey bilinç gibi konular sadece zekâdaki “yapay” kelimesini Anthropic, OpenAI gibi Hinton, Google’daki bol insanlığın mı tekelinde” diye sorgulamaya başladım. şirketler değerlemelerini kazançlı ve prestijli işinden sorgulayabiliriz. Hani yapay çiçek deriz, yükseltmek için icat edebilecek 2023’te istifa etti. Bu istifanın Sanırım en kötü ihtimalle gerçek çiçeğin plastik, basit bir anlayamadığımızı, bir cep algılarımızı tazelememiz kadar süper-zeki, bilinçli tek bir sebebi vardı: Ticari kaygı “dijital bilinç”, “dijital canlı” taklidi hissiyatı oluşur ya… İşte telefonu uygulaması ya lazım. Üstün-dijital-zekâ yapay zekâlardan bahsediyor duymadan insanlığı gittikçe gibi kavramları duyacağımız bu yapay kelimesi sanki ana da konuşan ansiklopedi olabilir, ileri-makine-zekâsı olabilirler. Silikon Vadisi’nde zeki hale gelen yapay zekânın yeni bir dönem başlamış kavramı küçültüyor ve ucuz bir muamelesi yaptığımızı olabilir, üniversitede- görülmemiş bir durum değil risklerine karşı uyarmak. durumda. taklit algısı oluşturuyor. görüyorum. okuyacağınız-bölümleri- bu. Yani yapay zekânın en Ama asıl önemlisi, tıpkı Yapay zekâ diyerek Bir an önce bu algıdan dikkatli-seçin-zekâ olabilir, Fakat şirketlerin ve ülkelerin önemli mimarlarından biri, zamanında “Dünya, evrenin karşılaştığımız bu yeni kurtulmamız lazım. ülkece-acilen-hazırlanmamız- bu alandaki teknolojilere ömrünün neredeyse 55 merkezidir”in yanlış olduğunu teknolojiyi algılarımızda Ama bunun için de önce şu lazım-zekâ olabilir, ne bileyim trilyonlarca dolar harcamaları, yılını bu işe adamış, 2024’te fark ettiğimiz gibi, “İnsan, basitleştirdiğimizi, yapay kelimesini daha doğru işte daha başka bir tanımlama para kazanabilecekleri çip Nobel ödülü almış biri dünyanın merkezidir”in gerçek gücünü henüz bir kelimeyle değiştirerek bulmak lazım...