Kendi AI Sohbet Robotumu Nasıl Oluşturdum: Bir Geliştiricinin Yolculuğu

Basit bir sorunla başladı - müşteri sorularında boğuluyordum. Büyüyen teknoloji danışmanlık web sitemin arkasındaki tek geliştirici olarak, her gün saatlerce aynı soruları tekrar tekrar yanıtlıyordum. Üretkenliğim düşüyordu ve bir şeylerin değişmesi gerektiğini biliyordum. Ampul anı, Salı günü sabah 2'de, bir başka "Şifremi nasıl sıfırlarım?" e-postasına yanıt vermekten gözlerim kan çanağına dönmüş halde geldi. Bu tekrarlayan etkileşimleri idare edecek bir şey neden inşa edemiyordum?
Yapay zekanın ve büyük dil modellerinin patlamasını ilgiyle takip ediyordum, ancak çoğunlukla bir izleyici olarak. Elbette, herkes gibi ChatGPT ve Claude ile oynamıştım, ancak kendi yapay zeka asistanımı yaratmak, derin cepleri ve daha derin uzmanlığı olan ekipler için ayrılmış bir şey gibi görünüyordu. Yine de, işimi içten dışa bilen özel bir sohbet robotunun, acilen ihtiyaç duyduğum çözüm olabileceği fikrinden kurtulamıyordum.
Kendime biraz zaman kazandırmak için bir hafta sonu projesi olarak başlayan şey, yazılım geliştirmeye, kullanıcı deneyimine ve insan-bilgisayar etkileşiminin doğasına yaklaşımımı temelden değiştiren altı aylık bir saplantıya dönüştü. Bu, chatbot'umu nasıl oluşturduğumun, bu süreçte neler öğrendiğimin ve sizin de neden bir tane oluşturmak isteyebileceğinizin hikayesidir.

İlk büyük engel, teknoloji yığınımı belirlemekti. Hemen seçenekler arasında boğuldum - OpenAI'nin GPT'si veya Anthropic'in Claude'u gibi mevcut API'lerin üzerine mi inşa etmeliyim? Açık kaynaklı bir modeli ince ayarlamalı mıyım? Yoksa en son teknoloji AI gerektirmeyen kural tabanlı bir sistemle daha küçük bir hedef mi belirlemeliyim?
Haftalar süren araştırma ve birkaç kavram kanıtı testinden sonra, hibrit bir yaklaşımda karar kıldım. Beyin olarak ince ayarlanmış bir açık kaynaklı dil modeli kullanacaktım ve web sitemin belgelerine ve SSS içeriğine erişim sağlamak için bir geri alma-artırılmış üretim (RAG) sistemiyle eşleştirecektim. Bu, sohbet robotunun genel zekaya sahip olmasını ve yine de işim hakkında özel olarak bilgi sahibi olmasını sağlayacaktı.
Model için, mütevazı sunucu kurulumumda çalışacak kadar küçük ama etkileyici bir akıcılıkla doğal dili işleyecek kadar güçlü olan Mistral'in 7B parametre modelini seçtim. RAG bileşeni, belgelerimin gömülü dosyalarını depolamak için bir vektör veritabanı (Pinecone) kullanır ve bu sayede chatbot'un soruları yanıtladığında ilgili bilgileri çekmesine olanak tanır.
Ön uç, API çağrılarını ve işlemeyi işleyen bir Node.js arka ucuyla React ile oluşturuldu. Kullanıcılarla sohbet bağlantısını sürdürmek için WebSockets'ı seçtim ve bu sayede sayfa yeniden yüklemeleri olmadan daha doğal bir ileri geri iletişim sağladım.
Bu yığın, maliyetleri yönetilebilir tutarken ihtiyacım olan esnekliği bana sağladı. Açık kaynaklı temel, sitem aniden popüler olursa fırlayabilecek API fiyatlandırmasına bağlı kalmayacağım anlamına geliyordu ve vektör veritabanı yaklaşımı, chatbot'umun hizmetlerim hakkında her zaman en güncel bilgilere erişebilmesini sağladı.

Genel bir sohbet robotunu gerçekten yararlı bir asistandan ayıran şey verilerdir - özellikle de verileriniz. Sohbet robotumun yalnızca ona verdiğim bilgiler kadar iyi olacağını hemen fark ettim. Bu, yalnızca web sitesi içeriğimi taramanın ötesine geçmek anlamına geliyordu; müşterilerimle nasıl iletişim kurduğumun özünü yakalamam gerekiyordu.
Yüzlerce e-posta alışverişini, destek biletini ve canlı sohbet kayıtlarını tarayarak başladım. Bu verileri anonimleştirerek insanların sorduğu soruların kalıplarını ve - en önemlisi - onlara nasıl yanıt verdiğimi çıkardım. Bu bana gerçek tonumu, teknik ayrıntı düzeyimi ve sorun çözme yaklaşımımı yansıtan eğitim örnekleri verdi.
Yapılandırılmış bilgi için, fiyatlandırma sorularından teknik özelliklere kadar her şeyi kapsayan kapsamlı bir SSS belgesi oluşturdum. Ayrıca, müşterilerin sorunları teşhis etmesine yardımcı olurken bilinçsizce takip ettiğim karar ağaçlarını yakalayarak yaygın sorun giderme iş akışlarını belgeledim.
Eğitim süreci kendi başına yinelemeli ve alçakgönüllülük gerektiren bir süreçti. İlk denemem, işletmemle ilgili gerçekleri bilen ancak kurumsal bir kılavuz gibi yanıt veren bir sohbet robotu üretti. Kendi etkileşimlerimi karakterize eden sıcaklıktan ve ara sıra mizah anlayışından yoksundu. Çizim tahtasına geri döndüm, bu sefer bilginin yanında kişiliği de sergileyen örnekler eklemeye odaklandım.
Beklenmeyen zorluklardan biri, chatbot'a "Bilmiyorum" demeyi öğretmekti - herhangi bir AI sistemi için olmazsa olmaz bir beceri. Bilgisinin sınırlarını tanıması ve gerektiğinde insan desteğine net yollar sağlaması için onu özel olarak eğitmem gerekiyordu. Bu, doğru yanıtın doğaçlama bir cevap vermek yerine durumu tırmandırmak olduğu olumsuz örnekler ve uç durumlar yaratmayı gerektiriyordu.
Üç eğitim yinelemesinden sonra, sonunda "gece yarısı testi" dediğim şeyi geçebilecek bir modele sahip oldum - cevaplamak için geç saatlere kadar uyanık kaldığım türden soruları ele alabilir miydi? Bir kullanıcıyı API kimlik doğrulama sürecimizde benim kullanacağım netlikle başarıyla yönlendirdiğinde, bir yere vardığımızı biliyordum.

Yüceltilmiş bir SSS araması ile gerçek bir konuşma asistanı arasındaki fark, bağlam farkındalığıdır; yani daha önce söylenenleri hatırlama ve üzerine inşa etme yeteneği. Bu, tüm projenin teknik olarak en zorlayıcı yönlerinden biri olduğunu kanıtladı.
İlk uygulamamda, her yeni sorguya sadece son birkaç konuşmayı ekleyen basit bir bağlam penceresi kullandım. Bu, temel takip soruları için işe yaradı ancak karmaşık senaryolarda hızla bozuldu. Bir kullanıcı özellik A, ardından özellik B hakkında soru sorarsa ve ardından özellik A hakkında tekrar bir takip alırsa, sohbet robotu kafası karışırdı.
Sonunda, aşağıdaki tekniklerin bir kombinasyonunu kullanan daha gelişmiş bir bağlam yönetim sistemi uyguladım:

Son konuşmaları önceliklendiren ancak aynı zamanda önemli önceki bilgileri de koruyan kayan bir bağlam penceresi
Kullanıcıların daha önce belirtilen ürünlere veya özelliklere ne zaman geri döndüğünü belirlemek için varlık takibi
Kullanıcıların hesap kurulumu gibi çok adımlı süreçlerde nerede olduklarını takip etmek için oturum durumu yönetimi

Çığır açan gelişme, konuşma geçmişinin hangi bölümlerinin geçerli sorgu için en önemli olduğunu belirlemek için alaka puanlaması eklediğimde geldi. Son N değişimi körü körüne dahil etmek yerine, sistem artık konuşmanın hangi önceki bölümlerinin yeni soruyla anlamsal olarak en alakalı olduğunu değerlendirdi.
Bu, kullanıcı memnuniyetinde büyük bir fark yarattı. Sohbet robotu artık şu gibi doğal konuşma akışlarını işleyebiliyordu: "Temel plan ne kadara mal oluyor?" → "Hangi özellikleri içeriyor?" → "Ve premium plan?" → "Daha önce bahsettiğiniz dosya paylaşım özelliğine sahip mi?" Bağlamı bozmadan veya kafaları karışmadan.
Kullanıcıların sistemle hayal kırıklığı yaşamadan etkileşime girmesini izlemek son derece tatmin ediciydi; sohbet robotunun sınırlamalarına uyum sağlamıyorlardı; sohbet robotu doğal konuşma tarzlarına uyum sağlıyordu.

Modelinizi ne kadar iyi eğitirseniz eğitin, uç durumlar ortaya çıkacaktır - genellikle hiç beklemediğiniz şekillerde. Chatbot'u sitemde başlattıktan kısa bir süre sonra, beni çizim tahtasına geri gönderen bazı büyüleyici ve bazen de komik başarısızlık modları görmeye başladım.
Bir ziyaretçi, chatbot'umu siber güvenlik hakkında bir şiir yazmaya ikna etmeye çalışarak 15 dakika harcadı (amacının ötesinde bir şey). Bir diğeri, onu genel bir programlama yardımcısı olarak kullanmaya çalıştı, kod parçacıkları yapıştırdı ve işimle tamamen alakasız teknolojiler için hata ayıklama yardımı istedi. En endişe verici olanı, ara sıra görülen "halüsinasyonlardı" - chatbot'un belgeleri yanlış yorumlayarak veya eğitim örneklerinden aşırı genelleme yaparak kendinden emin bir şekilde yanlış bilgi sağladığı durumlar.
Bu zorlukları çok katmanlı bir yaklaşımla ele aldım:
Öncelikle, sistem isteminde daha net kapsam sınırları uyguladım ve modele amacı ve sınırlamaları hakkında açıkça talimat verdim. Bu, kullanıcıların onu amaçlanmayan amaçlar için kullanmaya çalışmasını azalttı.
İkincisi, bir güven puanlama mekanizması ekledim. Modelin çıktısı belirsizlik belirtileri gösterdiğinde (dilsel belirteçler veya düşük tahmin güveni yoluyla), tahminleri gerçekler olarak sunmak yerine bu belirsizliği kullanıcıya kabul ederdi.
Üçüncüsü, net tetikleyicilerle bir tırmanma yolu oluşturdum. Belirli konular veya kullanıcı hayal kırıklığının tespiti, sohbet robotunun kullanıcıyı doğrudan benimle bağlantıya geçirmeyi teklif etmesini sağlayarak sorunsuz bir devretme deneyimi yaratırdı.
Son olarak, kullanıcıların sorunlu yanıtları işaretleyebileceği ve bunların otomatik olarak bir inceleme kuyruğuna eklendiği bir geri bildirim döngüsü kurdum. Bu bana uç durumlarla boğuşmak yerine sorunları belirleme ve düzeltme konusunda sistematik bir yol sağladı.
Belki de bu uç durumları analiz etmekten en değerli ders çıktı: Mükemmel sohbet robotu asla hata yapmayan değil, sınırlamalarını zarif bir şekilde ele alan ve ne zaman bir insanı dahil edeceğini bilen bir robottu. Bakış açısındaki bu değişim, başarıyı nasıl değerlendirdiğimi değiştirdi ve sonraki iyileştirmelerime rehberlik etti.

Teknik olarak harika ama hantal bir arayüze sahip bir sohbet robotu, kare tekerlekli bir Ferrari gibidir; kullanıcılar onunla rahatça etkileşime giremezse tüm bu güç boşa gider. İlk beta test kullanıcılarım yavaş yanıt sürelerinden kafa karıştırıcı konuşma akışlarına kadar her şeyden şikayet ettikten sonra bu dersi zor yoldan öğrendim.
Oluşturduğum ilk arayüz teknik olarak işlevseldi ancak steril ve mekanik hissettiriyordu. Kullanıcı testleri, insanların onunla etkileşime girmekte tereddüt ettiğini ortaya koydu; basitçe davetkar hissettirmiyordu. Bu prensipleri aklımda tutarak çizim tahtasına geri döndüm:
Kişilik önemlidir: Sohbet robotunun kişiliğini yansıtan ince tasarım öğeleri ekledim; arkadaş canlısı bir avatar, insan ritimlerini taklit eden yazım göstergeleri ve ara sıra ona ürkütücü vadiye girmeden canlılık hissi veren animasyonlar.
Net beklentiler belirleyin: Sohbet robotunun ne konuda yardımcı olabileceğini ve sınırlamalarını açıkça açıklayan bir tanıtım mesajı oluşturdum ve en başından itibaren uygun kullanıcı beklentileri belirledim.
İlerici açıklama: Kullanıcıları önceden tüm seçeneklerle bunaltmak yerine, sohbet robotunun konuşma bağlamına göre ilgili takip eylemlerini önerdiği bir sistem uyguladım.
Mobil öncelikli tasarım: Kullanıcılarımın %60'ından fazlasının siteye mobil cihazlardan eriştiğini gördükten sonra, sohbet arayüzünü daha küçük ekranlarda kusursuz çalışacak şekilde tamamen yeniden tasarladım - daha büyük dokunmatik hedefler, tam ekran sohbet modu ve sesli giriş seçenekleri.
Görsel geri bildirim: Kullanıcıların her zaman ne olduğunu bilmeleri için ince durum göstergeleri ekledim - sohbet robotunun "düşünüp düşünmediği", bağlantı sorunları olup olmadığı veya bir insanın konuşmaya dahil edilip edilmediği.
Belirli bir kullanıcı arayüzü öğesi şaşırtıcı bir fark yarattı: kullanıcıların sohbet robotunun onları yanlış anladığını hissettiklerinde dokunabilecekleri bir "açıklama" düğmesi. Bu basit özellik, kullanıcı memnuniyetini önemli ölçüde artırdı çünkü iletişim koptuğunda, sorularını sıfırdan yeniden ifade etmeye zorlamak yerine, onlara ileriye yönelik belirgin bir yol sağladı.
Öncesi ve sonrası metrikleri çarpıcıydı - ortalama konuşma uzunluğu %340 arttı ve chatbot'u birden fazla kez kullanmak için geri dönen kullanıcı sayısı iki katına çıktı. Ders açıktı: İnsan arayüzü sürtüşme yaratıyorsa teknik yetenek pek bir şey ifade etmez.

Bir sohbet robotu izole bir şekilde var olmaz; gerçekten değerli olması için mevcut dijital ekosisteminizle bütünleşmesi gerekir. Benim durumumda, bunun anlamı onu müşteri veritabanıma, dokümantasyon sistemime ve destek bileti platformuma bağlamaktı.
İlk entegrasyon temeldi; sohbet robotu dokümantasyonu arayabilir ve SSS'lere salt okunur erişime sahipti. Ancak kullanıcılar hızla daha fazlasını istedi: "Siparişimin durumunu kontrol edebilir misiniz?" "E-posta adresimi güncelleyebilir misiniz?" "Benim için bir destek bileti oluşturabilir misiniz?" Bu istekler kullanıcı perspektifinden çok mantıklıydı ancak daha derin bir sistem entegrasyonu gerektiriyordu.
Sohbet robotunun uygun kimlik doğrulamasıyla çağırabileceği belirli API uç noktaları oluşturarak bir mikro hizmet yaklaşımı kullandım. Her entegrasyonun kendine özgü güvenlik hususları vardı. Sipariş durumunu kontrol etme gibi salt okunur işlemler için kullanıcıların sipariş numaralarını ve ilişkili e-postaları sağlaması gereken bir doğrulama akışı uyguladım. Hesap ayrıntılarını güncelleme gibi yazma işlemleri için daha sağlam bir kimlik doğrulama adımı oluşturdum.
Özellikle yararlı bir entegrasyon, bilet sistemimle oldu. Chatbot bir sorunu yeterince çözemediğini tespit ettiğinde, konuşma geçmişiyle önceden doldurulmuş (kullanıcı izniyle) bir destek bileti oluşturmayı teklif ederdi. Bu, sonunda bilete yanıt verdiğimde, kullanıcının kendisini tekrarlamasına gerek kalmadan tam bir bağlam elde ettiğim anlamına geliyordu.
Entegrasyonlar, chatbot'u bağımsız bir soru-cevap sisteminden gerçek bir iş asistanına dönüştürdü. Yaygın sorunlar için ortalama çözüm süresi 8 saatten (e-postalara yanıt vermemi beklemek) 3 dakikanın altına düştü. Belki de daha önemlisi, kullanıcılar chatbot sorunlarını tamamen çözemediğinde bile daha yüksek memnuniyet bildirdiler, çünkü chatbot anında durum güncellemeleri sağlayabiliyor ve bilet sistemi aracılığıyla hesap verebilirlik yaratabiliyordu.
Ders: Bir chatbot'un değeri, mevcut sistemlerinize erişebildiğinde ve yalnızca onlar hakkında konuşmakla kalmayıp kullanıcılar adına gerçekten yararlı eylemler gerçekleştirebildiğinde katlanarak artar.

Chatbot'unuzun gerçekten başarılı olup olmadığını nasıl anlarsınız? Bu soru ilk düşündüğümden daha karmaşık çıktı. Ham kullanım sayıları tüm hikayeyi anlatmıyordu; sık kullanılan bir chatbot, yararlı bir asistandan ziyade aslında zayıf web sitesi gezintisini gösterebilirdi.
Çok yönlü bir analitik yaklaşım uyguladım:
Konuşma ölçümleri: Tamamlanma oranlarını (kullanıcılar sorularına cevap aldı mı?), konuşma uzunluğunu, terk noktalarını ve konu dağılımını izleyerek insanların chatbot'u aslında ne için kullandığını anladım.
İş etkisi ölçümleri: Yaygın sorular için azalan e-posta hacmini, destek bileti sapma oranını (bilet oluşturmadan çözülen sorunlar) ve müşteri sorguları için çözüm süresini ölçtüm.
Kullanıcı memnuniyeti: Her konuşmadan sonra kullanıcılar deneyimlerini derecelendirebiliyordu ve bu derecelendirmeleri olumlu ve olumsuz deneyimlerdeki kalıpları belirlemek için konuşma dökümlerine göre analiz ettim.
Gelir etkisi: Chatbot ile etkileşime giren ve girmeyen kullanıcıların dönüşüm oranlarını, özellikle chatbot'un belirli hizmetleri önerdiği konuşmalar için izledim.
Veriler şaşırtıcı içgörüler ortaya çıkardı. Örneğin, chatbot en basit sorular (daha iyi dokümantasyonla ele alınabilir) veya en karmaşık sorular (sonuçta insan müdahalesi gerektirir) için değil, ileri geri açıklamalar gerektiren ancak yerleşik kalıpları izleyen orta yol sorunları için en değerliydi.
Ayrıca chatbot ile etkileşime giren kullanıcıların premium hizmetlere kaydolma olasılıklarının %37 daha fazla olduğunu keşfettim; bunun nedeni chatbot'un harika bir satış elemanı olması değil, müşteri yolculuğunun bilgi toplama aşamasındaki sürtüşmeyi azaltmasıydı.
Bu ölçümler, iyileştirme yol haritamı yönlendirdi. Chatbot'un her şeyi yapmasını sağlamaya çalışmaktansa, zaten değerli olduğunu kanıtladığı alanları geliştirmeye öncelik verdim. Her iki haftada bir, kullanıcıların memnuniyetsizliklerini dile getirdiği konuşma kayıtlarını inceliyor, kalıpları belirliyor ve hedeflenen iyileştirmeleri uyguluyordum; bu, ek eğitim verileri, UX ince ayarları veya yeni sistem entegrasyonları anlamına gelebilirdi.
Bu veri odaklı yaklaşım, chatbot'u harika bir teknoloji projesinden ölçülebilir yatırım getirisi olan gerçek bir iş varlığına dönüştürdü.

Kendi AI sohbet robotumu oluşturmak sürekli bir keşif yolculuğu oldu. Geriye dönüp baktığımda, benzer yollarda olan diğerlerine yardımcı olabilecek temel dersler şunlardır:
Dar başla, sonra genişlet: En başarılı yaklaşımım, yeteneklerini genişletmeden önce sohbet robotunun birkaç şeyi olağanüstü iyi yapmasına odaklanmaktı. İlk sürüm yalnızca temel ürün sorularını ele aldı ancak bunu yüksek doğrulukla yaptı.
İnsan-AI geçişi kritik öneme sahiptir: Baştan itibaren zarif bir şekilde yükseltme için tasarım yapın. Sohbet robotunuzun sınırlamalarını fark ettiği ve insan desteğine sorunsuz bir şekilde geçiş yaptığı anlar, doğrudan yanıtlayabildiği sorular kadar önemlidir.
İyi bir konuşma tasarımına yatırım yapın: İstemlerinizin, eğitim verilerinizin ve konuşma akışlarınızın kalitesi, ham model yeteneklerinden daha önemlidir. Daha küçük bir model kullanan iyi tasarlanmış bir sistem, genellikle zayıf rehberliğe sahip güçlü bir modeli geride bırakır.
Kullanıcılar sınırlamaları affeder ancak karışıklığı affedemez: Kullanıcılar sohbet robotunun bir şeyi yapamadığını anladılar ancak kafası karışık göründüğünde veya kendisiyle çeliştiğinde hayal kırıklığına uğradılar. Yetenekler hakkında netlik, özelliklerin genişliğinden daha önemli olduğu kanıtlandı.
Güvenlik ve gizlilik hususları gelişiyor: Chatbot iş sistemleriyle daha entegre hale geldikçe, güvenlik hususları giderek daha önemli hale geldi. Uygun kimlik doğrulama, veri en aza indirme uygulamaları ve net kullanıcı onay mekanizmaları uygulamak zorunda kaldım.
Geleceğe gelince, birkaç heyecan verici yönü araştırıyorum:
Çoklu modlu yetenekler: Kullanıcıların hata mesajlarının ekran görüntülerini veya fotoğraflarını yükleme yeteneğini eklemek ve chatbot'un karşılığında görsel rehberlik sağlamak.
Proaktif yardım: Chatbot'un kullanıcı davranışına göre proaktif olarak yardım sunabileceği anları belirlemek için reaktif soru-cevap'ın ötesine geçmek.
Kişiselleştirme: Geri dönen kullanıcılara yanıtları uyarlamak, tercihlerini ve önceki sorunlarını hatırlamak için konuşma geçmişini ve hesap verilerini kullanmak.
Sesli arayüz: Birçok kullanıcı, özellikle mobil cihazlarda yazmak yerine asistanla konuşmakla ilgilendiğini ifade etti.
Bu chatbot'u oluşturmak sadece iş operasyonlarımı değil, insan-bilgisayar etkileşimine ilişkin anlayışımı da dönüştürdü. Teknoloji hızla gelişmeye devam edecek, ancak temeller aynı: kullanıcı ihtiyaçlarını anlamak, düşünceli konuşmalar tasarlamak ve hem yeteneklerini hem de sınırlamalarını bilen sistemler oluşturmak.
Kendi sohbet robotunuzu oluşturmayı düşünüyorsanız, sizi bu işe girişmeye teşvik ediyorum. Küçük başlayın, gerçek kullanıcı ihtiyaçlarına odaklanın ve hedefin Turing testini geçmek olmadığını unutmayın - gerçek insanlar için gerçek sorunları çözmektir. En başarılı yapay zeka asistanları, insanları mükemmel şekilde taklit edenler değil, insan yeteneklerini anlamlı şekillerde artıranlardır.