ChatGPT’nin arka planındaki startup OpenAI’nin CTO’su, yaratıcı yapay zeka devrimini şekillendiriyor. Kendisi bu sürecin ne kadar önemli olduğunun ve aynı zamanda bir o kadar da büyük felaketleri beraberinde getirebileceğinin farkında. KYLIE ROBISON VE MICHAL LEV-RAM
Openai’nin CTO’su Mira Murati, şirketin San Francisco’daki merkezinde bizimle görüşmesinden yalnızca dakikalar önce, bir başka yönetici de koltuğunu bırakarak ayrılıyor; bu kişi OpenAI’nin ortak kurucusu ve CEO’su Sam Altman.** Yapay zeka devriminin artık gözden düşmüş öncüsü, sadece bir laptoptan ibaret eşyasını topladıktan sonra, şimdi artık Murati’nin sahnedeki yerini alması için sessizce çıkıp gidiyor.
Yapay zekanın en çok bilinen şirketinin kamuoyu önündeki yüzü Altman; nitekim yapay zekadaki yasal düzenlemelerle ilgili Kongre’de görüşmelerde bulunmak için gittiği Washington’dan kısa süre önce dönmüştü. Ancak ondan daha az bilinmesine rağmen OpenAI’nin yükselişinde Altman kadar kritik rol oynayan, gerekli müdahaleleri de spot ışıklarının altında değil de arka planda yapan bir diğer isim, Murati. 34 yaşındaki Murati, popüler chatbot ChatGPT’nin yanı sıra metinden sanat eseri yaratan yapay zeka sistemi DALL-E’yi de yönetiyor; bu iki ürün, sekiz yıl önce kâr amacı gütmeyen bir araştırma laboratuvarı olarak başlayan OpenAI’yi baş döndürücü ve öngörülemeyen seviyelere taşıdı.
ChatGPT, Kasım 2022’de lanse edildikten sonra yalnızca iki ayda, aylık 100 milyonu aşkın aktif kullanıcı toplayarak, tarihin en hızlı büyüyen tüketici aplikasyonuna dönüştü. Bu ürünler gelişmeye devam ettikçe, bazen ortaya çıkan can sıkıcı aksaklıklarla ilgili olarak, yapay zekadaki her tür çığır açıcı yenilik ya da yanlışlarla yakından ilgilenen ve etkilenen kamuoyuna açıklamalarda bulunma sorumluluğu Mira Murati’ye ait. Tabii ki, bu dikkat ve yakın ilgi dolara dönüşüyor. Son aylarda ChatGPT’ye yönelen tüketici sayısındaki artışın yavaşladığı gözlense de, bu inovasyon kurumsal müşteriler arasında çok fazla rağbet görüyor.
Bu yıl, OpenAI’nin 1 milyar doları aşkın bir gelir elde edeceği söyleniyor. (Bu olağanüstü bir sıçrama olur: Bu yılın başında yatırım toplama turlarıyla ilgili bir belge, OpenAI’nin 2022 yılında yalnızca 30 milyon dolar elde edebildiğini gösteriyordu.) Murati’nin de kotarılmasına katkıda bulunduğu, şirketin yazılım devi Microsoft’la anlaşması, dağıtımla ilgili yeni olanaklar sundu; üstelik buna 10 milyar dolarlık yatırım dahil değil.
OpenAI’nin ofisinin dış görünüşü ne kadar düz ve sadeyse, iç dekorasyon buna karşılık oldukça stilize; Murati ise kot pantolon ve tişörtüyle spor ve rahat bir görünüm sergiliyor ancak onunla konuştukça iç dünyasının ne kadar derinlikli olduğunu hemen anlıyorsunuz. Murati nihayetinde sadece en son ChatGPT özellikleri hakkında değil, yapay zekanın insanlığın sonunu getirip getirmeyeceği hakkında da düşündüğünü söylüyor.
Murati Tesla’da bir süre çalıştıktan sonra 2018 yılında OpenAI’ye katıldı. Ancak bu süreçte Silikon Vadisi’nin
en yüksek profilli şirketlerinde yaygın olarak gözlenen yolu izlemedi. Kendisi lise eğitimini Arnavutluk’ta, tam
da Balkan ülkelerinde eski sosyalist sistemin dağıldığı dönemde aldı. O yıllarda Arnavutluk’ta internet oldukça yavaştı ama o yine de, pek çok soruya cevap aramakla meşguldü. Murati 16 yaşında Kanada, Vancouver’deki uluslararası bir okulda okumak üzere burs kazandığında, ülkesinden ayrıldı; daha sonra Dartmouth’ta mühendislik okudu ve San Francisco’da Tesla’nın X Modeli’nde kıdemli ürün yöneticisi sıfatıyla iş hayatına atıldı.
Murati’nin hedefi, entelektüel kapasitesini daha da geliştirmekti. Onu OpenAI’ye çeken faktörlerden birisi de, şirketin yapay zekayı geliştirebileceğine olan inancıydı; yapay zeka, bilgisayarın insana benzer şekilde anlama, öğrenme ve düşünme özelliklerini edinebildiği bilim kurgu konseptiydi. Mira Murati aynı zamanda yapay genel zekaya da inanıyor; kısacası yapay zeka söz konusu olduğunda, geniş kapsamlı düşünen bir iyimser (bu da sürpriz değil). Bununla birlikte, yapay zekaya olan bu derin inancı, bu inovasyonun hem şimdi hem gelecekte taşıyabileceği bazı önemli riskleri göz ardı edeceği anlamına gelmiyor.
Murati’yi OpenAI’ye götüren yol hakkında daha fazla şey öğrenmek, ürünleri yaygın hale geldikçe
şirketin karşılaşacağı zorluklar ve ayrıca DALL-E’nin en son versiyonları ve ilk kez sesli komuta sahip olacak ChatGPT’deki yenilikleri konuşmak üzere kendisiyle oturup (Altman odayı boşalttıktan sonra) konuştuk. Sesli komut yaratıcı yapay zekanın bir sonraki versiyonunu daha kullanıcı dostu hale getirebilir ve böylece hem ChatGPT’nin hem de üreticilerinin rakiplerine fark atmalarını sağlayabilir.
DALL-E ve özellikle de bu yeni versiyonunun (DALL-E 3 ChatGPT’ye entregre olarak kullanıcıların hemen bir yazı oluşturmalarını sağlayabilir) en verimli şekilde kullanımıyla ilgili neler söyleyebilirsiniz?
Şu anda ön değerlendirmede; insanların bunu daha geniş çaplı olarak nasıl kullanacaklarını görmek gerekiyor. İlk başta, nelerin yolunda gitmeyeceğine odaklanmıştık. Ancak iyi kullanım modelleri söz konusu olduğunda, sanırım yaratıcılık gerektiren örneklerden söz edebiliriz. Bir şeyi kişiye özel hale getirebilirsiniz; örneğin, çocuğunuz kurbağalarla ilgileniyor ve siz de bununla ilgili gerçek zamanlı bir öykü ortaya koymak istiyorsunuz… Daha sonra çocuklar öyküye katkıda bulunabilirler. Kısacası, çok fazla yaratıcılık ve ortak üretim söz konusu. Ayrıca iş yerinde prototip fikirler geliştirmenin bu yöntemle daha kolay olacağını düşünüyorum. Bir şeyleri oluştururken tekrarlayan ilk aşamalarının daha hızlı olmasını sağlayabilir.
İlaveten bazı ürün haberleriniz de var. Bu konudaki en önemli noktaları açıklayabilir misiniz?
Bizler yaklaşık iki yıldır asıl hedefimizin yapay genel zekaya ulaşmak olduğunu söylüyoruz; buraya da, yapay genel zekanın insanlığa gerçekten iyi bir şeyler sunacağından emin olarak varmayı istiyoruz. Nihayetinde yararlı olacak bir şeyler inşa ettiğimizden şüphe duymamalıyız. Bunu yaparken de, bu modellerin dünyayla ilgili metin, görsel ve ses gibi farklı modalitelerde güçlü bir konsepte sahip olmalarını sağlamanız gerekiyor.
Biz de şunu yapıyoruz: Tüm bu modaliteleri ChatGPT’de topluyoruz. DALL-E 3’ü ChatGPT’ye getiriyoruz; bunun da muhteşem bir etkileşim olacağını öngörüyorum. Bir diğer modalite ise, ses. Böylece ChatGPT’yle gerçek zamanlı konuşabileceksiniz. Bunun için demo yapmayacağım. Ama şuraya konuşup…
(Murati telefonunu alıp ChatGPT’yi açıyor ve daha sonra ses komutu aracılığıyla aplikasyonun kendisine “ilginç bir şey” anlatmasını istiyor. Chatbot cevap veriyor: “Balın hiç bozulmadığını biliyor musun?”)
Yani demo yapmış oluyorsunuz sonuçta.
Anlatmaktansa göstermek daha kolay. Temelde, tüm bu yenilikler, insanlara son derece doğal bir şekilde teknolojiyle etkileşime girilebilecek bir beceri sunmaya doğru evriliyor.
Şimdi bir başka açıdan da bakalım: Sadece ürüne değil bunları ortaya koyan insanlara da büyük bir ilgi var. Sizi şekillendiren ve bugünkü noktaya gelmenizi sağlayan en eğitici deneyimler hakkında neler düşünüyorsunuz?
Kuşkusuz, her şeyden önce Arnavutluk’ta büyümüş olmamı söyleyebilirim. Ancak aynı zamanda uzay havacılıkta başlamış olmam ve Tesla’daki zamanlarımın bana büyük katkı sağlaması; burada bir aracın tasarımından teslimatına kadar her aşamayı deneyimleme imkanım oldu. Ve tabii nihayetinde OpenAI’ye gelmem. Şirkete yeni katıldığımda 40-50 kişiydik ve esasen bir araştırma laboratuvarıydık; şimdi ise, milyonlarca kullanıcıya ve bir ton teknoloji uzmanına sahip bir şirketiz (OpenAI’nin halen yaklaşık 500 çalışanı var).
Sam’le nasıl tanıştınız ve Open AI’ye gelişiniz nasıl oldu?
Tesla’da zaten yapay zeka aplikasyonlarıyla çalışıyordum. Ancak genel zekayla daha çok ilgiliydim. Tabii ki, gelişmelerin bu noktaya varacağından emin değildim ama yine de sadece yaklaşsak bile, bu yolda inşa edeceklerimizin inanılmaz olacağını biliyordum. İnsanların şimdiye kadar ortaya koydukları en önemli teknolojik gelişmeler olacağını düşünüyordum. Böylece, bunun bir parçası olmayı istedim. O sırada yalnızca OpenAI ve Google’a ait DeepMind bu konu üzerinde çalışıyordu. OpenAI’nin misyonu da bana uyuyordu; hedefleri insanların yararına olacak bir teknoloji inşa etmekti. Kar amacı gütmeyen bir kuruluşken katıldım ve daha sonra tabii ki, evrim geçirmemiz gerekiyordu. (OpenAI hâlâ kâr amacı gütmeyen bir yönetim kuruluna sahip olsa da, 2019 yılında kâr amaçlı bir şirkete dönüştü.) O dönemde Greg’le (Brockman), Ilya’yla (Sutskever), Wojciech’le (Zaremba) ve daha sonra Sam’le tanıştım. Böylece, birlikte çalışmak istediklerimin bu insanlar olduğu kafamda net bir şekilde belirdi.
ChatGPT’yi ilk defa dünyayla tanıştırdığımız günlere dönelim. Bu kadar ses getireceğini, ekibin bu lafdar dikkat çekeceğini hissetmişmiydiniz?
Hayır. Önemli olacağını düşündük ve buna hazırlandık. Ancak tabii ki, tüm hazırlıklar yalnızca birkaç saat
içinde işlevsiz hale geldi. Çalışma şeklimizi uyarlamalı ve değiştirmeliydik. Bununla birlikte, kanımca bu yaptığımız her şeyin anahtarı çünkü teknolojideki ilerleme inanılmaz derecede hızlı.
Bunu ChatGPT’yle yapmalıydık. Bildiğiniz gibi biz bunu şirket içinde kullanıyorduk. Doğrusunu söylemek gerekirse, buluşumuzdan çok fazla da etkilenmemiştik çünkü zaten GPT-4’ü kullanıyorduk. Bu nedenle, büyük bir sansasyon yaratmasını beklemedik ama tam tersi oldu.
ChatGPT’nin ortaya çıkmasıyla bu alanda müthiş bir yarış başladı. Google var tabii ki öncelikle ancak aynı zamanda başka rakipler de söz konusu. Bunun dezavantajları neler?
Sanırım dezavantajı, güvenlikten taviz vermeye doğru bir yarış olması. Bu kuşkusuz, tehlike arz eden bir durum.
Bu çok büyük bir sorun.
Evet. Her birimiz bunu yapmayacağımızı taahhüt etmeli ve baskılara karşı koymalı. Sanırım OpenAI’nin bunu yapabilecek doğru enstrümanları var. Öte yandan, ilerlemeyi ve gelişimi teşvik edeceği için rekabetin iyi bir şey olduğunu da düşünüyorum. İnsanlar böylece sevdikleri ürünleri alabilirler. Rekabet kötü bir şey değil. Ancak insanlar yalnızca bu dürtüyle hareket edip de, riskleri görmezden geldiklerinde, işte bu noktada ciddi sorunlarla karşı karşıya kalabiliriz.
Rekabet arttıkça yatırımcılarınız da getiri bekliyor bu girişimlerin baskılara karşı dayanabileceğine inanıyor musunuz?
Ürettiklerimizin yapısına ve tasarımına güveniyorum. Ortaklarımızla da yaptığımız şeyler konusunda hemfikiriz. Şimdi, benim asıl emin bir şekilde söz edemeyeceğim nokta, ortaya çıkan yeni özellikleri
kestirmek ve bunların uygulanmasından kaynaklanabilecek risklerle başa çıkmak olacak. Günün sonunda, bunları kurumsallaştırmak ve işler hale getirmek zorundasınız; yalnızca izlenecek politikalar ve fikirlerle meşgul olmak zorundasınız.
Her yeni bir şey ortaya çıktığında bu tür hassasiyetleri gözettiğinizden nasıl emin olabiliyorsunuz? En kötü senaryoları gözden geçirirken ne tür konuşmalar oluyor?
İlk önce şirket içindeki ekiple başlıyoruz. Hatta bir prototip oluşturmadan önce bile, kullandığımız veri hakkında iyice düşünüyor ve farklı açılardan emin olmak istiyoruz. Bu tekrarlayan bir döngü ve biz bu süreçte bir şeyler öğreniyoruz; bunun üzerinde tekrar tekrar çalışıyoruz.
Prototipi oluşturduktan sonra yaptığımız ilk iş, şirket bünyesinde test etmek ve endişelendiğimiz noktalarda, zafiyeti bulmakla görevli kişileri harekete geçirmek. Örneğin, modelin fotoğraf kadar gerçekçi yüzler ortaya koymakta inanılmaz derecede başarılı olduğunu görürsek, bunu hemen uzman ekibe yolluyor ve bu modelle ne derece kötü şeyler yapılabileceğini araştırıyoruz. Kötü kullanım nelere yol açabilir? Daha sonra bu bulgulardan yola çıkarak, geriye dönüyor ve tehlikeleri azaltacak unsurları uyguluyoruz. Ancak bir yandan da bu tür bir müdahalede bulunurken, ortaya çıkacak ürünün neye benzeyeceğine
de dikkat ediyoruz. Nihayetinde bir denge oluşturmaya çalışıyoruz. Ürün ne tamamen işlevsiz ne de beraber çalışmak için fazla korkutucu olmalı. İşte bu da hassas bir denge; hem kullanışlı, hem mükemmel hem de güvenilir bir şey ortaya koyacaksınız.
Şimdi DALL-E 3’le, eğer hassas özelliklere sahip olan yüzler olarak tanımladığımız bir şeyler yapılmak isteniyorsa, bu durumda modeli talebi reddedecektir. Ancak aynı zamanda modelin, kötü olmayan bir şeyler yapması yönündeki talepleri de reddetmemesi gerekiyor. İşte bizim bu tür nüanslarla ilgilenmemiz ve bir yerden başlamamız şart; halihazırda teknoloji yeni olduğu için daha tutucuyuz ve daha az izin veriyoruz. Zaman içinde modelin yaptıklarıyla ilgili daha fazla şey anladıkça bu veriler, politikalarımızı ya da kullanım senaryolarını oluştururken, daha nüanslı davranmamızı, teknolojinin daha fazla şey yapmasına izin vermemizi sağlayabilir. Trend bu.
Halihazırda telifle ilgili pek çok zorluklar olduğunu biliyorum. (Son aylarda, pek çok yazar ve yaratıcı, OpenAI’nin kendi onaylarını almadan ya da herhangi bir telif ödemeden yazılarını kullanarak modellerini eğittiği gerekçesiyle şirkete dava açtı.) Bu tür olayların modellerinizi eğitme hakkınıza yönelik uzun vadeli bir tehdit oluşturduğunu düşünüyor musunuz?
Halen yayıncılar ve içerik üreticilerle yoğun bir çalışma halindeyiz. Günün sonunda, insanlar bu teknolojinin ilerlemesini, yararlı olmasını ve yaşamlarımızı iyileştirmesini istiyorlar. Bizler de nelerin işe yarayabileceğini öğrenmek istiyoruz; bu konuda da ön saflarda yer alıyoruz. Bazı zor kararlar almalıyız ve bunun sonuçlarının ne olacağını görmek için insanlarla çalışmalıyız; bu işin ekonomisi nedir, gelir paylaşımı
gibi şeyler nasıl olacak… Bunlara odaklanmamız lazım. Bu farklı bir teknoloji; o halde niçin daha önceki politikalar ve mantaliteyle yola devam etmeye çalışıyoruz? Bunun üzerinde çalışıyoruz ama bir çözümümüz yok.
Bu karmaşık bir durum ama ne yapmamız gerektiğini görmek için yayıncılar ve içerik üreticileriyle iş birliği yapıyoruz. Tabii ki zorlu bir yolda epey yürümemiz gerekecek. Bizler şu anda, veri paylaşımının ve veriye dayalı ilişkilendirmenin nasıl olacağını kestirme sürecinin başındayız. İnsanlar bir model üretip de, bunun ortaya koyduğu davranışlara bir değer katmaya çalıştığında, bunu acaba nasıl ölçeceksiniz?
İşin mevzuat tarafına gelince, yasal düzenlemelerden yana olduğunuzu söylüyorsunuz ama sizce yapay zeka konusunda aciliyeti olan bir ya da iki kanuni uygulama nedir? Yapay zeka dünyada dolaşıma sokulduğunda sizi en çok ne endişelendirir?
Kanımca şu an insanların en başta yapmaları gereken şey, onu anlamak olacak. Ancak ileriye dönük baktığımızda, bu teknolojilerin altyapımızla tam olarak bütünleşmesini istiyoruz. Ve eğer bu teknolojiler elektrik altyapımızda yer alacaksa, bunun yalnızca teknik yönlerine değil yasal çerçevesine de ihtiyacınız var. Bunun somutlaşması için de bir yerden başlamalıyız. Çok önemli olan bir diğer alan ise, tehlikeli yeteneklere sahip olanlar diye adlandırdığımız modeller hakkında düşünmemizi gerektiriyor. Hatalı kullanımın iki örneği var: Biri “normal” hatalı kullanım, diğeri ise, tüm bu yapay zeka sistemlerinin kötü amaçlı kullanım için kasıtlı olarak manipüle edilmesi. İşte bu tür bir manipülasyon olduğunda, nasıl bir yol izlemeliyiz? Çünkü bu yalnızca günlük kullanımla ilgili değil. Bu teknoloji muhtemelen uluslararası politikayı da şimdiye kadar ortaya koyduğumuz araç ve yöntemlerden çok daha fazla etkileyecek. Tabii ki, bir numarada olan ise nükleer silahlar. Bu tür felaketleri önleyebilecek düzenlemeler ortaya koymamız şart
.
Yapay zekanın geleceğiyle ilgili iki kampın ortaya çıktığını görüyoruz: biri son derece ütopik; bir diğeri ise, yapay zekayı varlığımıza tehdit olarak görüyor. Sizce bu gelecek neye benzeyecek?
Sanırım her iki olasılık da geçerli. Her şeyin yolunda gitmesini sağlayabileceğimizi umuyorum. Teknoloji doğuştan her iki olasılığı da içinde taşır ve tüm diğer diğer ortaya koyduğumuz araçların hatalı ve kötüye kullanımı nasıl söz konusuysa, bu alanda da felaketlere bile yol açabilecek kötü şeylerin gerçekleşmesi ihtimali var. Ancak yapay zekayı diğerlerinden ayıran bir risk daha var; o da varlığımıza yönelik tehdit oluşturma potansiyeli. Bildiğiniz gibi, bu aslında uygarlığın sona ermesi anlamına geliyor. Ben bunun gerçekleşmesini çok düşük bir ihtimal olarak görüyorum; ancak ne kadar düşük de olsa, böyle bir olasılık var ve bunun hakkında ciddi ciddi düşünmemiz gerekiyor. Bizim bu riske odaklanmış bir ekibimiz ve büyük bir bilgisayar gücümüz var. Bu projemizin adı Süper Hizalama; bu, sistemleri nasıl hizaladığımızla ve her zaman değerlerimize uygun şekilde davranmasını sağlamamızla ilgili. Gerçekten zor bir iş.