인공지능 (AI,GPT)28 GPTs 시스템 보안강화 방법과 인스트럭션 유출방지 프롬프트 추가 방법 GPTs (Generative Pre-trained Transformers)는 다양한 인공지능 응용 분야에서 사용되며, 특히 자연어 처리에서 뛰어난 성능을 발휘합니다. 하지만, 이러한 시스템은 보안 위협에도 취약할 수 있으며, 특히 프롬프트 인젝션(Prompt Injection)과 같은 해킹 기법을 통해 취약점이 드러날 수 있습니다. 이에 따라, GPTs 시스템의 보안을 강화하기 위한 방법과, 특히 인스트럭션 유출을 방지하기 위한 프롬프트 추가 방법에 대한 조사를 요약해 보겠습니다. GPTs 보안 취약점 검사 방식 GPTs 시스템의 보안 취약점을 검사하기 위해 사용할 수 있는 방식 중 하나는 자동화된 보안 테스트 봇을 구현하는 것입니다. 이러한 봇은 GPTs 모델을 대상으로 다양한 해킹 기법을 시뮬레이션.. 2024. 4. 8. GPT의 Custom Actions 기능으로 Google Spreadsheet 정보를 활용 GPT의 Custom Actions 기능을 사용하여 외부 API 호출을 통해 데이터를 검색하는 방법에 대해 구체적인 예로, 사용자가 입력한 우편번호에 대한 주소를 찾아 응답하는 GPTs 만드는 과정을 Google Apps Script를 활용하여 설명하겠습니다. 이 프로세스는 Google 스프레드시트에 우편번호와 주소 데이터를 저장하고, Google Apps Script를 사용하여 이 데이터를 검색한 다음, GPTs를 통해 사용자에게 해당 주소 정보를 제공하는 방식으로 진행됩니다. 1. Google 스프레드시트 준비 스프레드시트 생성: Google 드라이브에서 우편번호와 주소 정보를 포함하는 스프레드시트를 생성합니다. 데이터 입력: 우편번호와 해당하는 주소를 스프레드시트에 입력합니다. 스프레드시트 ID 확.. 2024. 4. 4. GPT-5와 인공 일반 지능(AGI)의 도래: 기술적 진보와 윤리적 고려 ChatGPT 5, 즉 GPT-5는 OpenAI의 대형 언어 모델(Large Language Models, LLMs)의 예상되는 미래 버전으로, 특히 인공 일반 지능(Artificial General Intelligence, AGI) 달성에 대한 기대가 모아지고 있습니다. 현재 GPT-5와 AGI에 대한 가능성에 관한 알려진 사실과 추측을 요약해 보겠습니다. GPT-5의 기능 GPT-5는 GPT-4에서 큰 발전을 이룰 것으로 예상되며, 자연어 처리, 추론, 창의성 및 전반적인 다양성 등 다양한 차원에서 개선될 것으로 보입니다. GPT-5는 수조 개의 매개변수를 사용하는 데이터셋을 활용할 것으로 추측되며, 이는 GPT-4의 1조 개 이상의 매개변수에서 상당한 증가를 의미합니다. 이러한 매개변수의 확장은 능.. 2024. 4. 2. 슬랙 채널 내용을 학습하여 질의응답을 수행하는 AI 챗봇 구현 슬랙에서 봇을 개발할 때 채널의 기반 정보와 소통 내용을 적재하고, 이를 기반으로 새로운 질의에 대해 이전 내용을 검색하거나 참조하여 답변하는 기능을 구현하는 것은 여러 단계를 포함합니다. 정확히 말하자면, 슬랙 API는 직접적으로 채널 내의 이전 메시지들을 "검색"하는 기능을 제공하지 않습니다. 대신, 메시지 이벤트를 수신하고, 이를 데이터베이스에 저장한 다음, 이 데이터베이스를 검색하여 필요한 정보를 찾아내는 방식으로 구현해야 합니다. 1단계: 슬랙 앱 생성 및 설정 슬랙 앱 생성: 먼저 슬랙 API 웹사이트에서 새로운 앱을 생성합니다. 봇 사용자 추가: 앱 설정에서 "Bots" 기능을 추가하고 봇 사용자를 설정합니다. 권한 설정: "OAuth & Permissions" 섹션에서 봇에 필요한 권한을 .. 2024. 4. 1. Generative AI 시스템 보호를 위한 도구 PyRIT 툴킷 MS 출시 Microsoft가 PyRIT(Python Risk Identification Tool)라는 새로운 오픈 소스 자동화 프레임워크를 출시했습니다. 이 도구는 생성 인공지능(AI) 시스템 내의 위험을 사전에 식별하기 위해 설계되었으며, 모든 조직이 최신 인공지능 발전을 책임 있게 활용할 수 있도록 지원하는 것을 목표로 합니다. PyRIT는 특히 큰 언어 모델(LLM) 엔드포인트의 강건성을 다양한 해로운 카테고리, 예를 들어 조작(예: 환각), 오용(예: 편견), 금지된 내용(예: 괴롭힘)에 대해 평가하는 데 사용될 수 있습니다. 또한, 맬웨어 생성에서 탈옥에 이르기까지 보안 해로움, 그리고 신원 도용과 같은 개인정보 해로움을 식별하는 데에도 사용할 수 있습니다. PyRIT는 다섯 가지 인터페이스를 제공합니다.. 2024. 3. 30. 이전 1 2 3 4 5 6 다음 728x90
