본문 바로가기

인공지능 (AI,GPT)39

728x90
AI도 세뇌당할 수 있을까? 인간처럼 공격받는 AI 보안 위협에 대한 고찰 AI 인지 교란 보안 위협과 대응 전략: 인간처럼 공격받는 AI, 그 가능성과 대응체계 AI가 점점 더 인간처럼 '생각'하고 '판단'하는 모습을 보이며, 단순한 질의응답 수준을 넘어서 기억과 맥락, 감정적인 응답까지 모방하고 있다. 이러한 상황에서 다음과 같은 의문이 들었다."AI도 사람처럼 속을 수 있는가?""단순한 시스템 공격이 아니라, 인간을 공격하듯 AI를 조작할 수 있는가?" 이런 문제의식에서 출발해, 기존 보안 개념을 넘어서 “AI의 인지능력 자체를 교란하는 위협”을 생각해 본다.이제 AI는 단순한 시스템이 아니라, 심리적으로도 공격 가능한 대상이 되었기 때문이다.인간-유사 AI 보안 위협의 존재AI가 ‘입력된 문장’을 이해하고 반응한다는 특성은, 공격자에게 새로운 기회를 제공한다.바이러스나 .. 2025. 4. 10.
구글 Sec-Gemini v1 출시: SecOps 혁신하는 차세대 사이버 보안 AI 모델 구글이 최근 공개한 'Sec-Gemini v1'은 제미나이(Gemini)의 고급 AI 기술과 방대한 사이버 보안 전문 지식 및 도구를 결합하여 개발된 차세대 생성형 AI 보안 모델입니다. 이 모델은 보안 운영(SecOps)의 효율성을 극대화하고 사이버 위협 대응 능력을 혁신적으로 강화하는 것을 목표로 합니다.핵심 개념 및 작동 방식AI와 사이버 보안의 융합뛰어난 추론 능력과 자연어 처리 기술을 기반으로, 구글의 광범위한 위협 인텔리전스 데이터와 결합하여 사이버 보안에 특화된 분석 성능을 제공합니다.실시간 위협 분석최신 위협 정보 및 데이터를 실시간에 가깝게 분석하여 보안 전문가들이 신속하게 위협 상황을 인지하고 대응하도록 지원합니다.SecOps 워크플로우 최적화인시던트 근본 원인 분석, 위협 행위자 분석.. 2025. 4. 8.
API Gateway로 MCP와 연계한 양방향 생성형 AI 프롬프트 (AI Agent) 활용 Agentic AI(에이전틱 AI), Generative AI(생성형 AI), Model Context Protocol(MCP)는 모두 최신 AI 기술과 관련된 개념이지만, 각각의 목적과 특성이 다릅니다. 각 개념에 대한 기본 정의와 특성, 차이점, 활용 사례 등을 통해서 비교해 봅니다.1. Agentic AI (에이전틱 AI)기본 정의와 배경정보Agentic AI란 목표를 달성하기 위해 자율적으로 계획을 세우고 능동적으로 행동하는 인공지능 시스템을 의미합니다.기존 AI는 입력된 데이터를 기반으로 정적인 결과를 도출하는 반면, Agentic AI는 목표 설정, 상황 인지, 의사 결정, 계획 실행, 결과 평가까지 스스로 수행 가능한 자율성이 강조된 형태입니다.주요 특성자율성 (Autonomy): 독립적으로.. 2025. 3. 24.
어시웍스(AssiWorks)와 에이전틱(Agentic) AI 개념 및 활용 최근 AI 기술의 발전으로 많은 전형적인 기능이 마이크로서비스화되어 API로 제공되고 있으며, 문서·텍스트 등의 비정형 데이터 처리는 대규모 언어 모델(LLM) 기반으로 대체되고 있습니다. 이러한 흐름 속에서 어시웍스(AssiWorks)는 다양한 AI 기능을 도구화(Tool)하고, 이를 연결하여 워크플로우(Flow)를 설계하며, 최종적으로 사용자의 요구에 따라 실행되는 에이전트(Agent)를 구축할 수 있도록 지원하는 플랫폼입니다.어시웍스를 활용하면 코딩 없이도 사용자가 쉽게 AI 기반 워크플로우와 에이전트를 구성할 수 있으며, 이를 여러 개 조합하여 팀(Team) 단위의 협업이 가능한 AI 시스템을 설계할 수 있습니다.1. 어시웍스의 핵심 개념어시웍스는 AI의 주요 기능을 도구(Tool)화하여 워크플로.. 2025. 3. 17.
OpenAI 에이전트 구축 새로운 가속화 도구 Responses API 사용 스펙 OpenAI는 에이전트 개발을 가속화할 수 있도록 Responses API, 웹 검색(Web Search), 파일 검색(File Search), 컴퓨터 사용(Computer Use) 및 에이전트 SDK(Agents SDK)를 포함한 새로운 빌딩 블록을 발표했습니다. 이러한 도구들은 복잡한 오케스트레이션 로직을 설계하고 확장하는 데 도움을 주며, 에이전트가 외부 도구와 상호 작용할 수 있도록 하여 더 유용한 역할을 수행할 수 있도록 합니다.Responses API 소개Responses API란?Responses API는 기존의 Chat Completions API와 Assistants API의 장점을 결합한 새로운 API입니다. 보다 단순한 구조로 설계되었으며, OpenAI가 제공하는 웹 검색, 파일 검색.. 2025. 3. 14.
728x90
728x90