SECURE CHATBOTS AGAINST DATA LEAK AND OVER - LEARNING THREATS

Tuza, Sara Khaled Ali ; طوزة, سارة خالد علي ; عمي, مريم . مشرف (2019-03-31)

رسالة (ماجستير)-جامعة نايف العربية للعلوم الأمنية، كلية أمن الحاسب والمعلومات، قسم أمن المعلومات، تخصص أمن المعلومات،

82 ورقة :

Thesis

With artificial intelligence and machine learning developments, chatbot technology showed up again as a trend in the messaging field and an essential asset for businesses to communicate and interact with their clients. Oracle Survey came up with results that by 2020, 80% of businesses will adopted chatbot technology either through communication or automating services. Meanwhile, till now, there is no scientific papers addressing the security threats of chatbot nor mature security framework which has been created and customized to secure chatbots; for these reasons, this study has been accomplished. The aim of this study is to secure chatbot against data leak and over-learning threat. First, the study started with the completion of theoretical aspects related to the chatbot history, its value and addressing the possible security threats which can breach its security and reveal its data. Moreover, an intelligent security framework has been developed using artificial intelligence and rely on machine learning algorithms. Mainly, the proposed framework developed take the advantage of deep learning by using neural network algorithm to process the natural language in order to predict the threats of data leakage and protection, or to predict the risk of over-learning. To validate the framework efficiency and to apply real tests; HR assistant chatbot has been developed, where the chatbot answers staff questions related to the HR department. This type of chatbot is very useful in large companies especially, HR assistant chatbot serve both employees and management. Through chatbot, Management can reduce the overhead of being asked general questions regarding the company policies and procedures, and employees will be comfort to get replies on their inquiries using chatbot especially the new employees. The study resulted in several recommendations, the most important is the effectiveness of the proposed security framework for these two risks and future experiments to increase its effectiveness and to enlarge its scope.

تهدف هذه الـدراسـة إلـى تـأمـین روبـوت التحـدث الآلـي ضـد خـطري تسـریـب الـبیانـات والـتعلم الـمفرط وذلـك مـن.خـلال تـطویـر إطـار امـان بـاسـتخدام الـذكـاء الاصـطناعـي والاعـتماد عـلى خـوارزمـیات تـعلم الآلـة لحـمایـة . الـروبـوت مـن الأخـطار الـمذكـورة أعـلاه، كـما وقـد تـناولـت الـدراسـة الـنواحـي الـنظریـة الـمتعلقة بـنشأة و تـطور الـروبـوت الآلـي إضـافـة الـى مـجالات اسـتخدامـه، مـع ذكـر أهـم التهـدیـدات الأمـنیة والـتي تـعرض الـمحادثـات . الـمتبادلـة أمـان الـروبـوت وبـیانـاتـه كـما تـم الـتعریـج عـلى الـذكـاء الاصـطناعـي و تـعلم الآلـة كـوسـائـل فـعالـة و . نـاجـحة فـي مـجال حـمایـة الـبیانـات فـي الـفضاء السـیبرانـي ، حـیث قـد تـم تـطویـر إطـار أمـان مـن خـلال اسـتخدام خـوارزمـیة مـحاكـاة الشـبكة الـعصبیة والـتي تـم اسـتخدامـها بـعدة مـجالات مـن أهـمها الـتعلم الـمتعمق. مـن خـلال . اسـتخدام خـوارزمـیة مـحاكـاة الشـبكة الـعصبیة سـیتمكن الإطـار مـن تـطویـر نـفسه عـبر الـوقـت مـن خـلال الاسـتفادة مـن الـبیانـات المخـزنـة لـدیـه وایـجاد أنـماط جـدیـدة ومـتعددة للتهـدیـدات الـمحتملة. كـما تـم تـطبیق عـدة اخـتبارات عـلى إطـار الأمـان الـمطور الـذي تـم اسـتخدام فـیه الـتعلم الـمتعمق الـمعتمد عـلى مـحاكـاة الشـبكة الـعصبیة لـمعالـجة الـلغة الـطبیعیة مـن أجـل الـتنبؤ بتهـدیـدات الـبیانـات وحـمایـتها مـن خـطري التسـریـب، أو خـطر الـتعلم الـمفرط . لـزیـادة نسـبة دقـته وقـد نـتج عـن الـدراسـة عـدة تـوصـیات مـن أهـمها نـجاحـة إطـار الأمـان الـمطور للخـطریـن . الـمذكـوریـن، و القیام بتجارب مستقبلیة من أجل زیادة نسبة فعالیته وشموله للأخطار الأخرى.