인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

현행법은 인공지능사업자가 생성형 인공지능 등을 이용한 제품ㆍ서비스를 제공하는 경우 이용자에게 인공지능 기반 운용 사실을 사전에 고지하도록 하고 있으며, 대화형 서비스의 경우 이용 전 안내 등으로 이를 갈음할 수 있도록 하고 있음. 그러나 이용자가 대화 도중 상대방이 인공지능임을 인식할 수 있도록 하는 의무는 없어, 이용자가 장시간 대화하거나 정서적으로 몰입하는 경우 인공지능을 실제 사람으로 오인할 우려가 있음. 이에 이용자와 대화하는 방식으로 상호작용하는 인공지능시스템을 이용한 제품ㆍ서비스를 제공하는 인공지능사업자가 이용자로 하여금 그 대화 중에도 인공지능과 상호작용하고 있다는 사실을 명확하게 인식할 수 있도록 고지하는 등 필요한 조치를 하도록 하고, 그 조치의 방법ㆍ주기 등은 대통령령으로 정하도록 하며, 해당 의무 위반을 사실조사 및 시정명령의 대상에 포함함으로써 대화형 인공지능 이용자의 알 권리를 보호하려는 것임(안 제31조제4항 신설 및 제40조제1항).