자체 금융기관이 외부 인공지능(인공지능) 에이전트가 고객의 계좌 정보를 활용해 직접 로그인하거나 거래를 조작하는 행위를 차단한다는 방침을 발표했다. 3분기 실적 공개 시 JP모건 최고경영자 다이먼은 “외부 에이전트가 우리 은행에 접근할 수 없도록 해야 한다”라며, 보안 위험과 고객 피해 가능성을 지적하였다.
다이먼은 외부 에이전트가 은행 인증정보를 통해 계좌를 조작하거나 거래를 실행하는 방식을 허용하지 않기로 했으며, 내부적으로도 인공지능 활용을 중단하지는 대신 자체 도구를 개발해 고객 보호에 주력하고 있다. 동시에, 외부 에이전트가 오픈뱅킹 사업자와의 데이터 공유를 통해 인증정보를 이용해 직접 로그인을 시도하는 경우에는 구분이 필요하다고 강조했다.
금융 당국은 인공지능 활용과 관련 보안 위험에 대처해 감독 체계를 강화하고 있다. 미국 연방준비제도(Fed) 등은 은행의 인공지능 활용 현황을 점검하며, 부여된 권한을 넘어서는 행동 방지와 승인 절차를 검토하는 장치를 도입했다. 유럽중앙은행(ECB) 및 기타 규제당국도 사이버 공격 대비해 은행 복구 계획을 강화하도록 요구하고 있다.
외부 인공지능 에이전트가 금융정보를 분석해 거래까지 수행하려는 움직임은 이미 나타나고 있지만, 대부분의 사례는 소액 결제에 한정되어 있으며, 정해진 권한 내에서만 결제를 시작하거나 완료할 수 있었다. 그러나 보안 사고 사례에서는 60만 건 이상의 신용카드 정보를 빼내거나 웹사이트에 결제 스크립트를 설치해 27개 이상 기업이 침해된 사실이 보고되었다.
이러한 상황을 배경으로, JP모건은 외부 에이전트의 접근을 차단하고 내부에서 인공지능 활용 시에도 고객 정보 보호를 최우선적으로 두는 방침을 확정하였다. 금융기관과 온라인 플랫폼은 외부 인공지능과의 협력 관계를 신중시켜 보안 통제와 책임 범위를 명확히 정립하는 것이 급선한 과제로 부각된다.