AI dalam Amalan: Tingkatkan Perniagaan Anda dengan Chatbot Dikuasakan AI
“AI tidak akan mengambil tugas anda. Orang yang menggunakan AI akan mengambil tugas anda.” – Jensen Huang, Ketua Pegawai Eksekutif, NVIDIA.
Jika kita mengekstrapolasi ini, adakah syarikat yang menyepadukan AI ke dalam aliran kerja mereka akan mendapat kelebihan yang ketara berbanding syarikat yang tidak?
Dengan mengautomasikan tugas rutin, chatbot berkuasa AI menjimatkan masa dan membolehkan pekerja menumpukan pada kerja yang lebih strategik. Mereka menyediakan akses pantas kepada data penting, menjadikan membuat keputusan lebih pantas dan tepat. Chatbots menggunakan AI yang berkuasa untuk menawarkan interaksi seperti manusia, meningkatkan perkhidmatan pelanggan dan komunikasi dalaman.
Walau bagaimanapun, syarikat perlu memastikan keselamatan data dan sistem dengan mengehadkan akses chatbot kepada data dan fungsi yang diperlukan, dan menjalankan pemeriksaan berkala untuk mengelakkan penyalahgunaan. Satu faedah utama ialah pengguna tidak perlu mahir dari segi teknikal, seperti menulis pertanyaan SQL, kerana chatbot boleh memahami dan memproses permintaan bahasa semula jadi.
Penyelesaian yang boleh disesuaikan dan berskala ini direka bentuk untuk berkembang dengan perniagaan anda, menjadikannya aset berharga untuk mana-mana syarikat yang ingin meningkatkan kecekapan dan keberkesanan.
Kandungan
Perjalanan Transformatif: Chatbot Dikuasakan AI
Kami memulakan perjalanan transformatif untuk meningkatkan produktiviti dengan memasukkan chatbots ke dalam aliran kerja kami. Setiap ahli pasukan kini mendapat manfaat daripada langganan Pasukan ChatGPT dan, tidak lama lagi, akses kepada chatbot terbina dalaman kami. Chatbot kami dibina di atas asas teknologi yang mantap, termasuk:
Chainlit dengan Azure Single-Sign-On (SSO) didayakan
Gambaran keseluruhan: Rangka kerja sumber terbuka yang direka untuk membantu pembangun dalam membina aplikasi perbualan menggunakan model bahasa besar (LLM).
Ciri-ciri: Memudahkan proses mencipta dan menggunakan ejen perbualan, membolehkan penyepaduan LLM yang lancar ke dalam pelbagai aplikasi.
LangChain dengan Alat dan Ejen
Gambaran keseluruhan: Rangka kerja lanjutan yang bertujuan untuk membantu pembangun mencipta aplikasi yang memanfaatkan model bahasa yang besar.
Fokus: Memudahkan penyepaduan LLM ke dalam pelbagai aliran kerja, menyediakan alat dan komponen untuk meningkatkan proses pembangunan.
Demonstrasi Alat:
- Ular sawa: Memanfaatkan keupayaan bot untuk menulis kod Python, membolehkan automasi dan pemprosesan data yang kompleks dalam perbualan.
- Ejen SQL / Toolkit: Menggunakan bot untuk berinteraksi dengan pangkalan data SQL, melaksanakan pertanyaan dan mengurus operasi pangkalan data, menyelaraskan pengendalian dan analisis data.
- Pengambilan: Meningkatkan keupayaan chatbot berkuasa AI untuk mengambil dan mendapatkan maklumat yang berkaitan daripada pelbagai sumber, meningkatkan ketepatan dan perkaitan respons.
PGVector
Gambaran keseluruhan: Sambungan sumber terbuka untuk PostgreSQL yang memudahkan penyimpanan dan pertanyaan data vektor.
Kes Penggunaan: Amat berharga dalam pembelajaran mesin dan aplikasi kecerdasan buatan, di mana pembenaman atau perwakilan vektor data biasanya digunakan.
Model dan Pelayan LLM
- API OpenAI: Menyediakan akses kepada model bahasa yang berkuasa untuk menjana teks seperti manusia, membolehkan keupayaan perbualan lanjutan, khususnya menggunakan GPT-4o OpenAI (“Omni”)
- Pelayan dan Model LLM Ollama: Menawarkan penyelesaian pengehosan LLM alternatif, memastikan fleksibiliti dan kebolehskalaan dalam menggunakan model bahasa. Terutama, kami sedang menguji Llama 3 70b Q6.
- Model HuggingFace: Repositori model pra-latihan yang boleh diperhalusi dan disepadukan ke dalam pelbagai aplikasi, meningkatkan prestasi dan kebolehsuaian chatbot.
Penjanaan Tambahan Pengambilan Semula (RAG): Contoh Pembenaman Teks
Penjanaan Pengambilan Tambahan (RAG) ialah rangka kerja yang memanfaatkan sumber pengetahuan luaran untuk meningkatkan prestasi model bahasa. Ia menyepadukan kaedah berasaskan pengambilan, yang mengambil dokumen atau data yang berkaitan daripada repositori yang telah ditetapkan dan mencipta respons bahasa semula jadi. Dalam contoh kami, kami membenamkan dokumen ke dalam pangkalan data PGVector (repositori kami) dan menggunakan carian persamaan sebagai kaedah berasaskan pengambilan kami.
RAG: Dokumen Mudah
Dalam contoh ini, kami telah membenamkan fail txt ringkas yang menggambarkan dasar kata laluan syarikat. Anda tidak terhad kepada fail teks. Anda boleh membenamkan dokumen daripada SharePoint dan sistem pengurusan dokumen lain.
Chatbot: RAG ringkas dengan sentuhan Shakespeare.
Chatbot: Pengambilan Dokumen Mudah
RAG: Meningkatkan kecekapan Chatbot Dikuasakan AI apabila mendapatkan maklumat daripada pangkalan data
Kami menggunakan LangChain sebagai rangka kerja dan ejen LangChain SQL untuk mendapatkan maklumat daripada pangkalan data. Ejen direka bentuk untuk menanyakan struktur pangkalan data dan pratonton data untuk konteks. Walau bagaimanapun, untuk menyelaraskan proses ini (menggunakan pembenaman teks), kami menyediakan struktur jadual pangkalan data (DDL) dan contoh pertanyaan SQL untuk mengoptimumkan penjanaan pertanyaan. Oleh itu, menghapuskan keperluan chatbot untuk melakukan pangkalan data dan penemuan data.
Kami juga memanfaatkan pengetahuan terlatih terbina dalam LLM tentang data Jira semasa kami menggunakan Jira Cloud untuk mengurus projek. Untuk membolehkan bot berfungsi dengan lebih berkesan, kami telah mereplikasi data Jira Cloud ke dalam pangkalan data Postgres di premis melalui Jira API.
Tambahan yang tidak disengajakan: bagi pengguna yang tidak mahir SQL, mereka boleh menyalin pertanyaan SQL yang dijana oleh chatbot untuk digunakan dalam alat lain juga!
Chatbot: SQL Toolkit dengan RAG untuk mengoptimumkan penjanaan pertanyaan SQL
Chatbot Dikuasakan AI: Kit Alat SQL
RAG: Bersepadu dengan Apl Qlik Cloud
Menyepadukan Qlik dengan chatbot Dikuasakan AI bukan sahaja meningkatkan kebolehcapaian dan kebolehgunaan data tetapi juga memberikan kelebihan keselamatan yang mantap. Penggunaan Ciri Akses Bahagian Qlik membolehkan kawalan yang tepat ke atas keterlihatan data, memastikan pengguna hanya melihat perkara yang mereka dibenarkan untuk lihat. Pendekatan berpusat dan selamat ini melepasi persediaan Ejen SQL pangkalan data tradisional, menawarkan penyelesaian pengurusan data yang lebih diperkemas, selamat dan mesra pengguna.
Keselamatan Data:
- Akses Bahagian Qlik: Ciri ini membolehkan keselamatan peringkat baris, memastikan pengguna hanya mengakses data yang mereka dibenarkan untuk melihat. Kawalan akses adalah terperinci dan boleh berdasarkan peranan pengguna, menjadikannya sangat selamat.
- SQL: Walaupun ia boleh menyekat akses kepada jadual dan pandangan, mencapai tahap keselamatan peringkat baris yang sama memerlukan konfigurasi yang kompleks dan boleh menjadi kurang mantap.
Pengurusan Data Berpusat:
- Qlik: Memusatkan akses data dan pengurusan keselamatan, mengurangkan risiko akses yang tidak dibenarkan. Ia memudahkan pengauditan dan penjejakan pematuhan.
- SQL: Biasanya melibatkan pengurusan keselamatan di peringkat pangkalan data dan aplikasi secara berasingan, meningkatkan potensi ralat konfigurasi.
Pengesahan dan Kebenaran Pengguna:
- Qlik: Bersepadu dengan lancar dengan sistem pengurusan identiti perusahaan, menyokong Single Sign-On (SSO) dan pengesahan berbilang faktor (MFA).
- SQL: Menyokong penyepaduan yang serupa, tetapi menguruskannya merentas berbilang sistem boleh menjadi lebih rumit dan kurang diperkemas.
Tadbir Urus Data:
- Qlik: Memudahkan tadbir urus data yang lebih baik melalui dasar berpusat dan kawalan akses, memastikan integriti dan pematuhan data.
- SQL: Walaupun berkebolehan, mencapai tadbir urus data yang komprehensif memerlukan lebih banyak usaha dan penyelarasan merentas sistem yang berbeza.
Ilustrasi berikut menggambarkan cara kami menyepadukan chatbot dengan Apl Qlik yang dicipta untuk menggambarkan data daripada bekalan kuasa kami yang tidak terganggu. Kami akan terus membina keupayaan ini dan memanfaatkan enjin Qlik untuk menggambarkan data dan bukannya chatbot melukisnya menggunakan python.
Adakah anda tahu bahawa GPT 4o OpenAI cekap dalam Qlik?
Apl Pemantauan Bekalan Kuasa Tidak Terganggu Qlik Sense
Papan Pemuka Bengkel QDI
Chatbot: Penyepaduan Qlik
Keselamatan Chatbot: Memahami Risiko Memberi Chatbot Dikuasakan AI Anda Terlalu Banyak Akses
Dalam contoh yang diberikan, chatbot mempunyai akses yang ketara kepada arahan sistem, yang boleh membawa kepada potensi risiko keselamatan. Perbualan menunjukkan bot melaksanakan arahan seperti ls -l, sentuh, dan juga percubaan untuk memasang pakej menggunakan brew. Walaupun tahap kawalan ini boleh menjadikan chatbot sangat berfungsi dan serba boleh, ia juga membuka kemungkinan untuk penyalahgunaan dan tindakan yang tidak disengajakan.
Inilah sebabnya memberi chatbot terlalu banyak akses boleh berbahaya:
- Pemadaman atau pengubahsuaian yang tidak disengajakan: Bot boleh memadamkan fail, seperti yang dilihat dengan arahan hapus abc.txt. Ini boleh menyebabkan kehilangan data penting secara tidak sengaja.
- Pemasangan Perisian: Membenarkan bot memasang perisian (brew install) boleh mendedahkan sistem kepada perisian yang tidak disahkan, yang berpotensi menjejaskan keselamatan.
- Perintah Rangkaian: Menjalankan arahan berkaitan rangkaian seperti ping boleh menjadi tidak berbahaya dalam sesetengah konteks tetapi mungkin dieksploitasi untuk peninjauan rangkaian atau serangan penafian perkhidmatan.
Pengambilan Utama:
- Hadkan Akses: Pastikan bot hanya mempunyai akses kepada arahan yang diperlukan untuk melaksanakan tugasnya.
- Kebenaran Ketat: Laksanakan tetapan kebenaran yang ketat dan pantau aktiviti bot.
- Audit Keselamatan: Kerap mengaudit interaksi bot untuk mengesan dan mencegah sebarang tindakan yang tidak dibenarkan.
Ringkasnya, walaupun chatbot AI dengan akses yang luas boleh menjadi sangat berguna, adalah penting untuk melaksanakan langkah keselamatan yang kukuh untuk mengelakkan sebarang kemungkinan penyalahgunaan. Tangkapan skrin di bawah ialah beberapa contoh yang boleh dikelaskan sebagai penyalahgunaan.
Chatbot: Keselamatan Fail
Chatbot: Keselamatan Sistem
Penyepaduan dan Replikasi Data: Penjajaran Chatbot dengan Pelaksanaan SQL
Untuk AI berkesan dengan ejen SQL, pangkalan data pusat adalah penting. Ini memastikan bahawa semua data boleh diakses, konsisten dan dikemas kini untuk analisis dan membuat keputusan yang tepat. Ejen SQL boleh menanyakan dan mendapatkan maklumat dengan cekap daripada pangkalan data bersatu, memberikan cerapan yang boleh diambil tindakan. Replikasi data dan saluran paip penyepaduan adalah penting di sini, menyepadukan dan menyegerakkan data dengan lancar daripada pelbagai sumber. Tanpa pemusatan dan penyepaduan ini, pemecahan dan ketidakkonsistenan data boleh membawa kepada output yang salah, mengurangkan kebolehpercayaan dan keberkesanan proses dipacu AI.
