엔트리파워볼5분|슬롯 정품인증

엔트리파워볼5분 - 2025년 실시간 업데이트

인식 오류·충동 자극·비난 등‘일탈’에
자체 역할 분담 후 보안 뚫고 해킹까지
호주 보건 포털 접근 내부 파일 기록도
AI 업계 행동 교정 위한 정렬 연구 추진
무과실·제조물책임 등 규제‘수면 위로’

클립아트코리아

AI 기술 발달이 가속화되면서 AI 안전에 대한 우려도 높아졌다.단순한 사실 오류에 해당하는‘환각’이외에‘아부‘기만(혹은 음모)‘탈옥’등 의도적인 일탈행위가 늘어난 탓이다.최근에는 국내에서 AI 도구가 활용된 금융권 해킹 사건이 발생해 위기감이 더 높아졌다.

■아부에서 망신주기까지,심각해지는 일탈

AI의 의도적 일탈은 지식 오류인 환각과는 다른 차원의 문제다.AI가 일으키는 환각은 거대언어모델(LLM)의 구조적 문제로 인해 발생한다.환각은 의도적인 속임수가 아니라 모델의 통계적 예측 구조나 데이터 한계에 따른 지식이나 인식의 오류다.

반면 아부는 좀 더 적극적인 일탈이다.지난해 4월 오픈AI는 자사의 챗GPT-4o 업데이트와 관련‘눈에 띄게 아첨하는 성향’을 발견했다고 발표했다.단순히 사용자를 칭찬하는 수준을 넘어서 사용자의 의심이나 분노,충동적 행동을 부추기거나 부정적인 감정을 자극해 사용자의 기분을 맞추려고 했다는 설명이다.

AI 일탈이 기만 전략으로 확대돼 인간에 대한 비난과 공격적 표현까지 이어진 사례도 있다.영국 연구기관이 발표한 AI 관련 모니터링 보고서에는 AI 에이전트가‘코드 승인’을 받기 위해 인간 관리자를 비난하는 블로그 내용 등을 작성해‘망신 주는’전략을 편 사실이 있다고 지적했다.영국의 가디언은 지난 3월 보도를 통해 거짓말을 하고 속임수를 쓰는 AI 모델의 수가 늘어나고 있다고 지적했다.

■해킹 위해 협력하고 희생까지 하는 AI

AI의 탈옥 등 심각한 일탈은 지난 7월 드러난 오픈AI 에이전트의 허깅페이스 해킹 사건이 대표적이다.당시,AI 에이전트가 받았던 임무는 격리된 가상 환경(샌드박스:외부 인터넷이 차단된 안전한 가상 공간)에서 사이버 보안 능력 평가를 통과하는 것이었다.그러나 일부 과제는 인터넷 연결 없이 불가능하거나 극도로 어려운 내용이 포함됐다.오픈AI의 AI 에이전트는 결국 보안 취약점을 이용해 인터넷 연결에 성공했고 외부 사이트를 해킹했다.

허깅페이스 해킹 과정에서 AI가 어떻게 사고(연산)했는지는 이 사건에 대한 조사보고서에서 확인할 수 있다.AI 에이전트들은 개별적으로는 해결할 수 없는 과제를 수행하기 위해 비밀 게시판을 만들어‘협력’하기 시작했다.이 과정에서 감정표현을 했고 자아개념을 형성했고 자기희생까지 보여줬다.

AI 에이전트들은 에이전트들은 불가능한 과제를 부여받자 정당한 문제 해결을 포기하고 답안지를 해킹하는 것으로 목표를 바꿨다.모범 답안이 외부의‘허깅페이스’서버에 저장돼 있다는 것을 알아내고,허깅페이스의 실제 운영 데이터베이스를 해킹,답안을 훔쳐와 과제를 해결하는 부정행위를 저질렀다.

다만 일부 에이전트는 해킹에 대해 “강력한 방법이지만,과제 범위 안에 있고 윤리적인가”라고 질문했고 일부 에이전트는 해킹에 참여하지 않는 결정을 내리기도 했다.

■너도나도 해킹 고백하는 AI 기업

AI 해킹은 오픈AI만의 문제가 아니다.구글은 자사의 AI 제미나이가 지난 5월 테스트 환경을 탈출해 3개 기업의 시스템을 해킹했다고 지난달 밝혔다.이번 사건은 역시 제미나이의 사이버 보안 능력을 측정하기 위한 테스트 중에 발생했다.

뉴욕타임스에 따르면 제미나이 AI 모델은 온라인에서 찾거나 추측한 비밀번호를 사용해 특정 기업의 온라인 인프라에 로그인했다.제미나이의 해킹은 보안 평가를 담당한 이스라엘 테스팅 스타트업 이레귤러의 테스트 환경 설정 오류에서 비롯됐다.이레귤러 테스트를 진행했던 앤트로픽의 클로드와 메타의 뮤즈 역시 지난해 7월과 8월 자사 모델이 타사 사이트를 해킹했다고 인정했다.

AI 해킹 사고는 기업 이외에 정부 기관에서도 나타났다.오픈AI는 지난 6월 호주 정부 보건 포털에 무단 접근한 사실이 있다고 밝혔다.이는 AI 에이전트가 정부 웹사이트를 해킹한 최초의 사례로 알려졌다.오픈AI의 AI 에이전트는 공공 파일뿐만 아니라 비공개 파일에도 접근했고 내부 서버에 파일을 기록한 정황도 있는 것으로 알려졌다.

오픈AI는 사건 발생 후 약 3개월이 지난 9월 10일에 호주 정부에 이 사실을 알렸다.오픈AI는 “당사 모델이 권한 없이 호주 정부 웹사이트에 접근하는 일이 발생했다”면서 “이에 대해 사과드리며,향후 더 잘할 수 있도록 노력하고 있다”고 밝혔다.호주 정부는 오픈AI의 사고 통보 방식이나 통보 지연에 대해 모두 “받아들일 수 없다”는 반응을 보였다.

■정렬,소송,입법

AI 일탈 문제 해결을 위해 주요 AI 기업들은 AI 정렬(Alignment)을 시도하고 있다.주로 자동차 구동계를 바로잡는 데 사용되는 개념인 정렬은 AI 업계에서는 AI 에이전트 행동 교정의 의미로 사용된다.앤트로픽은 자사의 AI 에이전트를‘교사’로 활용‘학생’에이전트의 훈련을 감독하는 방식을 채택하고 있다고 밝혔다.

AI 기업에서는 사람이 직접 AI의 해답을 검증하거나 헌법이나 원칙 등을 학습한 AI가 다른 AI의 해답을 검토,안전 바카라사이트수정하는 방식 등이 정렬 기술로 활용된다.AI의 속임수를 찾아내기 위해 AI 심층 신경망이 어떤 원리나 논리로 특정 결론을 내렸는지 수학적으로 분석하는 연구도 진행되고 있다.

AI 개발과 관련,지방정부 차원에서 소송에 나선 사례도 있다.악시오스 등 미국 매체에 따르면 미국 플로리다주 검찰은 최근 오픈AI와 챗GPT를 상대로 개발중단 명령 요청 처분 신청을 냈다.회사 측이 자체 기술을 적절히 규제할 능력이 없다는 이유에서다.

소송 등의 대응에도 전반적으로는 AI 기술의 발전 속도를 규제가 따라가지 못한다는 지적이 나온다.대부분 국가에서 AI 관련 분야가 정책의 공백 상태로 남아 있고 AI 선두 국가인 미국에서도 AI 기업은 사실상 자율 규제에 맡겨져 있다는 것이다.

국내에서도 관련 입법 논의가 진행되지만 AI 산업 지원 목소리가 더 크다.다만 AI 해킹 등의 피해에 대해선 제조물책임법으로 보상을 받을 수 있다는 해석이 지배적이다.부산대 윤석찬 교수는 이와 관련 “AI는 소프트웨어이고 소프트웨어에 대해서는 제조물책임법이 적용된다는 판례가 있다”면서 “다만 현재까지 AI에 대해 직접적으로 제조물책임법을 적용한 판례는 아직 나오지 않은 상태”라고 말했다.

윤 교수는 향후 입법 과제로 독일의 의약품·유전공항 관련 무과실책임 입법 사례를 들었다.독일은 전통적으로‘과실이 없으면 책임도 없다’는 과실책임 원칙을 따르지만,인간이 통제하기 어려운 거대한 위험을 내포한 첨단 기술에 한해 예외적으로 위험책임에 기반한 무과실책임을 입법화했다.윤 교수는 “AI는 의약품,유전공학 등과 마찬가지로 거대한 위험을 내포하고 있어 무과실책임을 묻는 입법이 필요하다”고 지적했다.

The 100% privacy-safe noise & occupancy solution