The inpact of human al collaboration on al applications

Abstract

ABSTRACT

This thesis explores an innovative and interactive approach to credit card fraud detection by leveraging the strengths of Human-AI collaboration. In recent years, the increasing sophistication of fraudulent techniques and the massive volume of online transactions have posed serious challenges to conventional fraud detection systems. Traditional rule-based or static machine learning models often fail to adapt to the dynamic and evolving nature of fraud patterns. To address these limitations, this study proposes a dynamic fraud detection framework that integrates Long Short-Term Memory (LSTM) neural networks with the SHapley Additive exPlanations (SHAP) interpretability framework, supported by continuous user feedback.

The core of the system lies in the time-series modeling capability of LSTM networks, which are particularly well-suited for analyzing sequential transaction data and identifying subtle temporal patterns that may indicate fraud. However, the effectiveness of deep learning models is often limited by their “black box” nature, which makes it difficult for users or domain experts to understand how and why a specific prediction was made. To tackle this issue, the SHAP framework is employed to provide interpretable explanations for each model output, offering a breakdown of how individual features contribute to the prediction. This not only fosters transparency but also enables users—such as fraud analysts—to trust and critically assess the model’s decisions.

A key innovation in this thesis is the integration of user feedback into the learning loop. Users can evaluate the system’s predictions and provide corrective input when a transaction is misclassified. This feedback is then incorporated into the model through an iterative retraining process, allowing it to adapt and improve over time. Such a Human-in-the-Loop approach not only enhances model accuracy but also aligns the system with real-world operational needs, where expert insight is invaluable.

The experimental results obtained from real-world transaction datasets show that the proposed system achieves a significant improvement in performance metrics—especially in the F1 score—after incorporating human feedback. This indicates that continuous learning from user interactions enables the model to become more robust and responsive to evolving fraud strategies.

Overall, this study demonstrates the practical benefits of combining explainable artificial intelligence with interactive human feedback in fraud detection applications. The proposed framework not only increases the detection accuracy of suspicious transactions but also enhances end-user confidence through transparent and interpretable decision-making processes. As a result, the system is not merely a predictive tool, but a collaborative partner for human experts in the ongoing fight against financial fraud. This approach contributes to a broader understanding of Human-AI collaboration in critical domains and provides a foundation for future systems that blend machine learning capabilities with domain expertise in real-time decision-making environments.

Keywords: Credit Card Fraud, LSTM, SHAP, Human-AI Collaboration, Continuous Learning, Explainable Artificial Intelligence

ÖZET

Bu tez çalışması, günümüz dijital dünyasında giderek artan kredi kartı dolandırıcılığına karşı etkili bir çözüm sunmayı amaçlayan, İnsan-Yapay Zeka (YZ) işbirliğine dayalı yenilikçi bir yaklaşımı ortaya koymaktadır. Finansal işlemlerin hacmindeki hızlı artış, işlem verilerinin karmaşık yapısı ve dolandırıcılık yöntemlerinin sürekli değişim göstermesi, mevcut geleneksel sistemlerin yetersiz kalmasına neden olmaktadır. Kural tabanlı yaklaşımlar ve statik makine öğrenmesi modelleri, dolandırıcıların yaratıcı yöntemlerine karşı yeterince esnek ve adaptif olamamaktadır. Bu bağlamda, bu tezde önerilen sistem, derin öğrenme tekniklerinden Uzun-Kısa Süreli Bellek (Long Short-Term Memory – LSTM) ağları ile açıklanabilir yapay zeka yaklaşımlarından SHapley Additive exPlanations (SHAP) çerçevesini bir araya getirerek, kullanıcı geri bildirimi ile sürekli öğrenen bir yapay zeka tabanlı dolandırıcılık tespit sistemi geliştirmeyi hedeflemektedir.

Önerilen sistemin temel bileşenlerinden biri olan LSTM ağları, zaman serisi şeklinde kaydedilen kredi kartı işlemleri arasındaki bağıntıları ve örüntüleri öğrenmekte oldukça etkilidir. Geleneksel sinir ağlarından farklı olarak, LSTM modelleri, uzun vadeli bağımlılıkları da dikkate alabilmekte, bu sayede dolandırıcılığa işaret eden daha karmaşık davranış kalıplarını ortaya çıkarabilmektedir. Kredi kartı dolandırıcılığı çoğu zaman küçük ve dikkat çekmeyen işlemlerle başlar, dolayısıyla bu tür desenlerin yakalanması oldukça önemlidir. Ancak, derin öğrenme modelleri genellikle “kara kutu” (black box) yapılar olarak değerlendirilmekte ve neden belirli bir tahminde bulunduklarını açıklamakta yetersiz kalmaktadır.

İşte bu noktada SHAP çerçevesi devreye girmektedir. SHAP, her bir özelliğin model kararına olan katkısını sayısal olarak ifade eden, güçlü ve kuramsal temellere dayanan bir açıklanabilirlik yöntemidir. SHAP sayesinde sistemin verdiği her karar, kullanıcıya neden o şekilde sınıflandırma yaptığına dair anlaşılır ve güvenilir açıklamalarla sunulmaktadır. Özellikle finans sektöründe çalışan risk analistleri ve denetim uzmanları için bu tür açıklanabilirlik oldukça değerlidir, çünkü bu sayede kararların sadece yapay zekaya bırakılması yerine, insan denetimiyle birlikte ilerlenmesi mümkün olmaktadır.

Bu çalışmanın en önemli katkılarından biri de İnsan-Yapay Zeka etkileşimini merkeze almasıdır. Geliştirilen sistem, kullanıcıların modelin yaptığı tahminlere geri bildirimde bulunmasına olanak tanımaktadır. Örneğin, bir işlem model tarafından ”şüpheli” olarak sınıflandırılmış ancak kullanıcı bunu yanlış bulmuşsa, bu bilgi sisteme geri beslenerek modelin bir sonraki eğitim sürecinde bu geri bildirim dikkate alınmaktadır. Bu sürekli öğrenme döngüsü, sistemin zamanla daha doğru ve kullanıcı ihtiyaçlarına daha uygun hale gelmesini sağlamaktadır.

Sonuç olarak bu tez, kredi kartı dolandırıcılığı gibi gerçek zamanlı ve kritik bir problem alanında, İnsan-Yapay Zeka işbirliğine dayanan bütüncül bir çözüm yaklaşımı sunmaktadır. Derin öğrenme, açıklanabilir yapay zeka ve insan etkileşiminin entegre edildiği bu sistem, yalnızca tespit performansını artırmakla kalmamakta, aynı zamanda kullanıcı güvenini güçlendirmekte ve sistemin sürdürülebilirliğini sağlamaktadır. Gelecekte benzer sistemlerin finans dışındaki alanlarda da uygulanabilirliğinin araştırılması, İnsan-Yapay Zeka işbirliğinin potansiyelinden daha geniş ölçekte yararlanılmasına olanak sağlayacaktır.

Anahtar Kelimeler: Kredi Kartı Dolandırıcılığı, LSTM, SHAP, İnsan-Yapay Zeka İşbirliği, Sürekli Öğrenme, Açıklanabilir Yapay Zeka