Projenizi anlatın

Yapay zekâ entegrasyonu

Büyük dil modellerini şirketinizin belgelerine, müşteri hizmetlerine ve iş yazılımlarına bağlıyoruz. Hedef ölçülebilir bir işi hızlandırmak: soruya doğru kaynaktan cevap, belgeden doğru veri, talebe doğru sınıf.

Dizüstü bilgisayarda bir belgenin yanında sohbet penceresi açık yapay zekâ asistanını kullanan çalışan
Tipik süre
4–10 hafta
Platform
Web, mobil, iç sistemler
Teslimde
Pilot, entegrasyon, test seti
İlk adım
Ölçülebilir bir pilot

Yapay zekâ nedir, neden gerekir

Yapay zekâ entegrasyonu, ChatGPT’nin arkasındaki türden büyük dil modellerini (LLM) kendi işinize bağlamaktır. Model tek başına genel bilgiyle konuşur; şirketinizin ürün kataloğunu, iade politikasını ya da sözleşme şablonlarını bilmez. Entegrasyonla model bu bilgilere kontrollü biçimde erişir ve cevabını onlara dayandırır.

En verimli kullanım alanları genellikle gösterişsizdir: müşteri sorularının ilk cevabını şirket belgelerinden hazırlamak, gelen e-posta ve talepleri konusuna göre sınıflandırmak, faturalardan ve sözleşmelerden veri çıkarmak, uzun dokümanları özetlemek. Öte yandan dil modelleri hata yapabilir ve kendinden emin bir dille yanlış bilgi üretebilir; buna halüsinasyon denir. Bu yüzden her kullanımda doğruluğun nasıl ölçüleceği ve modelin emin olmadığında ne yapacağı baştan tasarlanmalıdır.

Olimpos Yazılım’da yapay zekâ projelerine kısa bir pilotla başlarız: tek bir iş, gerçek örnek veriler ve önceden yazılmış bir başarı ölçütü. Şirket belgelerinden cevap veren sistemlerde RAG (geri getirme destekli üretim) yöntemini kullanırız: model önce ilgili belge parçalarını bulur, cevabını yalnızca onlara dayandırır ve kaynağını gösterir. Hangi verinin hangi sağlayıcıya gideceğini KVKK açısından sizinle birlikte belirler, gerektiğinde açık modelleri kendi sunucunuzda çalıştırırız.

Hizmete dahil olanlar

7 kalem; kapsam görüşmesinde ihtiyacınıza göre daraltılır ya da genişletilir.

  • Kullanım alanı analizi

    Yapay zekânın gerçekten fayda sağlayacağı işlerin belirlenmesi; her biri için beklenen kazanç, risk ve başarı ölçütü.

  • Belgelerden cevap veren asistan

    Ürün kataloğu, prosedürler, sözleşmeler ya da destek kayıtları üzerinden soruları cevaplayan ve kaynağını gösteren sistem (RAG).

  • Belge okuma ve veri çıkarma

    Fatura, irsaliye, sözleşme ve formlardan belirli alanların okunup sisteminize düzenli veri olarak aktarılması.

  • Sınıflandırma ve yönlendirme

    Gelen e-posta, destek talebi ya da yorumların konu, öncelik ve duygu durumuna göre ayrılıp doğru ekibe iletilmesi.

  • Mevcut sistemlere bağlantı

    CRM’inize, destek yazılımınıza, web sitenize ya da mobil uygulamanıza yerleştirilen yapay zekâ özellikleri.

  • Doğruluk ölçümü

    Gerçek örneklerden oluşan bir test setiyle modelin başarısının düzenli ölçülmesi; model ya da talimat değiştiğinde kalite düşüşünün yakalanması.

  • Güvenlik ve kullanım kontrolü

    Kişisel verilerin modele gitmeden maskelenmesi, kullanım kayıtları, kullanıcı başı limitler ve model çağrı maliyetinin izlenmesi.

Nasıl ilerliyoruz

Yapay zekâ projelerinde izlediğimiz 5 adım.

  1. Kullanım alanı seçimi

    Aday işleri birlikte listeler, sıklık, harcanan süre ve hata maliyetine göre bir pilot seçeriz. Başarı ölçütünü pilot başlamadan yazarız.

  2. Veri hazırlığı

    Modelin kullanacağı belgeleri ve örnekleri toplar, güncel olmayan ya da birbiriyle çelişen içerikleri ayıklar, kişisel verilerin maskeleme kurallarını belirleriz.

  3. Pilot

    Sınırlı bir kullanıcı grubuyla birkaç haftalık deneme yaparız. Model cevaplarını test setiyle ve kullanıcı geri bildirimiyle ölçeriz.

  4. Entegrasyon ve yayın

    Pilot ölçütü karşılarsa özelliği mevcut sistemlerinize bağlar, izleme ve kullanım kontrolüyle yayına alırız.

  5. İzleme ve iyileştirme

    Belge kütüphanesini güncel tutar, yanlış cevapları inceler, yeni model sürümlerini test setiyle karşılaştırarak geçiş kararı veririz.

Kimler için

Yapay Zekâ Entegrasyonu çoğunlukla şu durumlarda işe yarar.

Müşteri hizmetleri

Sık sorulan soruların ürün belgelerinden cevaplandığı, cevaplanamayanların bir çalışana devredildiği destek asistanı; otellerde farklı dillerde gelen misafir mesajlarına ilk cevap.

Şirket içi bilgi erişimi

Prosedürler, teknik dokümanlar ve geçmiş projeler arasında arama yapan, yeni çalışanların sorularını kaynak göstererek cevaplayan asistan.

Belge yoğun operasyonlar

Fatura, sipariş, sözleşme ya da başvuru formlarını elle işleyen finans, lojistik ve hukuk ekipleri.

Ürününe yapay zekâ ekleyenler

SaaS ürününe ya da mobil uygulamasına özetleme, öneri ve akıllı arama gibi özellikler eklemek isteyen yazılım ürünleri.

Teknolojiler

  • OpenAI API
  • Claude API
  • Gemini API
  • Llama
  • Mistral
  • Python
  • FastAPI
  • pgvector
  • PostgreSQL
  • Docker

Yapay zekâ hakkında sorular

Yapay zekâ işletmemde neyi gerçekten hızlandırabilir?
En verimli olduğu işler; çok sayıda metin okunan, kuralları tam yazılamayan ama doğru cevabın kontrol edilebildiği işlerdir. Müşteri sorularına ilk cevabın hazırlanması, e-posta ve taleplerin sınıflandırılması, belgelerden veri çıkarılması, uzun metinlerin özetlenmesi ve şirket içi dokümanlarda arama bunlara örnektir. Kesin hesap gerektiren işlerde (muhasebe kaydı, stok hesabı) klasik yazılım hâlâ daha güvenilirdir; yapay zekâ orada en fazla yardımcı rol oynar.
Verilerimizi bir yapay zekâ sağlayıcısına göndermek KVKK açısından sorun olur mu?
Olabilir; bu yüzden baştan planlanmalıdır. Büyük sağlayıcıların kurumsal API koşullarında gönderilen veriler varsayılan olarak model eğitiminde kullanılmaz, ancak veri yurt dışındaki sunuculara gider ve kişisel veri içeriyorsa KVKK’nın yurt dışına aktarım hükümleri devreye girer. Bunu üç yolla yönetiriz: kişisel verileri modele göndermeden önce maskelemek, kanunun öngördüğü güvenceleri (örneğin standart sözleşme) kurmak ya da açık modelleri kendi sunucunuzda çalıştırmak. Hangi yolun gerektiğine hukuk danışmanınızla birlikte karar verilmesini öneririz.
Yapay zekâ yanlış cevap verirse ne olur?
Dil modelleri yanlış ama ikna edici cevaplar üretebilir. Bunu tamamen ortadan kaldırmak mümkün değil, ama ciddi ölçüde azaltmak ve yönetmek mümkün. Modelin cevabını yalnızca sizin belgelerinize dayandırmasını, kaynağını göstermesini ve emin olmadığında bunu söyleyip konuyu bir çalışana devretmesini sağlarız. Yayından önce gerçek sorulardan oluşan bir test setiyle başarı oranını ölçer, hassas konularda (fiyat taahhüdü, hukuki yorum) cevabın bir çalışanın onayından geçmesini öneririz.
ChatGPT kullanmakla özel entegrasyon arasındaki fark nedir?
ChatGPT gibi araçlar, çalışanlarınızın tek tek kullandığı genel amaçlı asistanlardır; şirket sistemlerinize bağlı değildir ve her çalışan veriyi kendi yöntemiyle kopyalayıp yapıştırır. Özel entegrasyonda yapay zekâ iş akışınızın içine yerleşir: CRM’deki talebi okur, ilgili belgeyi bulur, cevabı taslak olarak hazırlar ve sonucu sisteme yazar. Kimin hangi veriye eriştiği, hangi sorunun sorulduğu ve kullanımın ne kadar tuttuğu kayıt altındadır.
Kendi modelimizi eğitmemiz gerekiyor mu?
Çoğu zaman hayır. Şirket belgelerinizden cevap veren bir sistem için modeli yeniden eğitmek yerine RAG yöntemi kullanılır: belgeleriniz aranabilir bir dizinde tutulur ve model her soruda ilgili parçaları okuyarak cevap verir. Bir belge güncellendiğinde sistem de güncellenir; ayrıca eğitim yapmak gerekmez. İnce ayar (fine-tuning), ancak çok belirli bir biçim ya da üslup gerektiğinde ve yeterli örnek veri olduğunda değerlendirilir.
Yapay zekâ özelliğinin işletme maliyeti nasıl kontrol altında tutulur?
Model sağlayıcıları işlenen metin miktarına göre ücretlendirir; bu yüzden maliyet kullanımla birlikte büyür. Her işe gereğinden büyük model kullanmamak, sık sorulan sorularda önbellek kullanmak, belgelerden yalnızca ilgili parçaları göndermek ve kullanıcı başı limit koymak maliyeti öngörülebilir kılar. Pilot sırasında soru başına ortalama maliyeti ölçer, yayına almadan önce aylık tahmini birlikte çıkarırız.
Mavi saatte falezlerin üstünde uzanan bir kıyı kenti, arkasında dağlar

Yapay zekâ projenizi anlatın

Ne yapmak istediğinizi birkaç cümleyle yazın; Muratpaşa ofisimizde ya da görüntülü görüşmede kapsamı ve süreyi netleştirelim.

Projenizi anlatın