Responsible AI

책임 있는 AI – 올바른 기반 구축

EU AI법은 2024년 8월 1일에 발효되어 AI 규제의 새로운 새벽을 열었습니다. 최첨단 분석 솔루션을 사용하거나 개발하는 사람들에게는 이것이 “위험이 낮다”고 생각하기 쉽고 따라서 규제가 없다고 생각하기 쉽습니다. 그것은 근시안적인 생각입니다. 윤리적 배포를 보장하는 책임은 분석 제공자의 책임의 중심에 있습니다. 이것은 고상하고 철학적인 이상향이 아니라 책임 있는 AI에 대한 신뢰와 확신을 구축하는 지침을 엄격하게 준수하는 것입니다.  

책임 있는 AI를 위한 가이드라인 수립

LexisNexis의 모회사인 RELX는 책임 있는 AI에 대한 엄격한 지침을 가지고 있으며 이를 통해 어느 정도의 기준을 설정해야 하는지 보여줍니다.

1. 솔루션이 사람들에게 미치는 실제적 영향을 고려하세요.
2. 불공정한 편견의 생성 및 강화를 방지하기 위한 조치를 취하세요
3. 솔루션의 작동 방식을 설명하세요.
4. 인간의 감독을 통해 책임을 만드세요.
5. 개인정보를 존중하고 강력한 데이터 거버넌스를 지지하세요.

Source: RELX Responsible Artificial Intelligence Principles, June 2022 

IP 분석과 관련해 이 가이드라인은 무엇을 의미합니까?

차례로 각각 살펴보겠습니다:

실제적 영향: 분석의 주요 목적은 선별되고 신뢰할 수 있는 데이터로 의사 결정을 지원하는 것입니다. 분석 개발자는 무엇이 가능한지, WHY의 핵심에 얼마나 많은 AI를 포함할 수 있는지 묻는 것 이상을 해야 합니다. 솔루션이 실제 문제를 해결하는지, 즉 고객 문제의 본질을 경청하고 이해하는 것을 의미합니다.

편향 :편향의 주요 원인은 성별, 민족성, 사회경제적 지위 및 기타 개인적 속성을 기반으로 개인이나 그룹에 덜 유리한 결과를 제공하는 분석입니다. 하지만 이는 너무 제한적입니다. 오늘날 특허 분석에서 AI의 대부분은 지도 학습 또는 생성 AI에 의해 구동됩니다. 둘 다 훈련 데이터(genAI의 경우 방대한 양)를 통해 활성화됩니다. 매우 높은 수준의 정밀도와 재현율을 가진 분류 알고리즘을 고려해 보세요. 이제 소수의 소유자 또는 제한된 수의 지리적 영역의 특허를 참조하여 이를 훈련하는 인간을 데려오세요. 이러한 방향에서 원치 않는 편향을 예상하세요. 훈련 세트가 Covid보다 먼저 만들어진 특허 초안 작성 도구를 상상해보세요. 제한된 비전으로 인해 방해받는 오해의 소지가 있는 결과를 예상하세요. 이것들은 분석 제공자들이 밤에 잠을 이루지 못하게 하는 문제들입니다. 편향을 피하기 위해 전략에 대한 일관된 설명이 없는 사기꾼을 모두 피하세요.

설명가능성: 부울린 대수가 특허 검색에 지배적인 접근이었던 시절에는 일상이 쉬웠습니다. 결과에는 사용자가 입력한 단어(또는 단어 조합)나 코드(예:CPC/IPC)가 포함된 특허가 포함되었습니다. 결과는 종종 몹시 부족했지만, 긍정적인 측면에서는 설명가능했습니다. 

AI 초기에 비평가들은 AI가 블랙박스이며 그 이유만으로 무시되어야한다고 불평했습니다. Gen AI 시대에 이러한 수준의 두려움, 불확실성 및 의심은 대부분 사라졌습니다. (Gen AI가 설명 가능하기 때문이 아닙니다!). 하지만 그렇다고 해서 투명성에 대한 필요성이 낮아지는 것은 아닙니다. 공급업체는 시스템이 어떻게 작동하는지, AI가 스택의 어느부분에서 작업을 수행하는지 공개할 의향이 있어야 합니다.

LexisNexis Classification(이전 명칭 Cipher)은 AI 분류 플랫폼 중 가장 초기의 플랫폼 중 하나로, 독립적인 테스트를 실시하고 동료 검토 논문을 증거로 제출했습니다. 최소한 고객은 무슨 일이 일어나고 있는지 이해하는 데 어려움을 겪지 않아야 합니다. 아마도 가장 중요한 것은 정확성을 검증하기 위해 투명하고 설명 가능한 테스트를 사용할 수 있어야 한다는 것입니다. 고객은 솔루션이 다음으로 좋은 대안보다 더 좋고, 더 빠르고, 더 저렴할 때 시스템이 어떻게 작동하는지 알고 싶어합니다.

감독 및 책임 : 페리 건널목 표지판을 보지 못하고 바다로 차를 몰고 들어간 내비게이션 사용자나 법정 서류에 허황된 인용문과 함께 원시 ChatGPT 출력을 제출하는 불운한 변호사에 대한 미디어 보도는 부족하지 않습니다. 중요한 것은 분석을 제공하는 사람과 사용자 간의 균형을 맞추는 것입니다. genAI는 아직 초기 단계이므로 공급업체는 고객에게 기능을 전달하고 교육하기 위해 최선을 다해야 합니다. genAI는 그럴듯한 결과를 제공하도록 훈련되었다는 점을 기억하세요. 인간형 용어로 genAI 기반 시스템은 정답이 없더라도 답을 제공하도록 훈련됩니다. 실망시키는 것을 좋아하지 않습니다. 다시한번 말하지만, 이러한 “환각” 능력은 참여를 저해해서는 안됩니다. AI를 보조 또는 증강 지능으로 생각하세요. 아니면 아예 지능이 아닐 수도 있습니다.

개인정보 보호 및 데이터 거버넌스:지적 재산권 분야에서 분석을 사용하는 많은 사용자는 변호사입니다. 이는 논의 중인 원칙보다 더 중요한 것은 타인의 권리를 침해하지 않는 의무라는 것을 의미합니다. 이는 이 시장을 서비스하는 공급업체의 인정이 필요합니다. 대규모 언어 모델의 기반이 저작권 및 기타 측면에서 도전을 받고 있을 때 이는 어렵습니다. 이러한 합법적인 우려는 채택에 장애가 될 수 있습니다. 이러한 도구의 제공을 지원하기 위해 개발된 법적 프레임워크로 대응해야 합니다.

모범 사례는 끊임없이 변화합니다.

지난 10년동안 AI는 특허 분석에 엄청난 영향을 미쳤습니다. 특허 소유자와 그들의 자문자는 다양한 비즈니스 결정에 거쳐 측정가능한 영향을 보고합니다. 여기에는 전략적 포트폴리오 최적화, 라이선싱 및 소송이 포함됩니다. 책임 있는 AI는 모든 분석 제공자에게 지침이 됩니다. 고객 사레에서 얻은 교훈은 다음과 같습니다.

팀워크: 책임 있는 AI를 순전히 공급업체의 책임으로 포지셔닝하면 사용자의 어깨에 얹힌 책임이 줄어듭니다. 특허를 처리하는 사람들은 혁신적이고 적은 것으로 더 많은 것을 달성해야 한다는 압력이 있습니다. 이러한 목표를 달성하는 것은 위험이 없는 것은 아니지만 괜찮습니다. 필요한 것은 법률, R&D 및 재무 그룹의 다른 사람들을 포함한 여러 이해 관계자의 참여입니다. 이를 통해 IP는 비즈니스의 다른 영역에서의 경험에서 배울 수 있습니다. 비즈니스 인텔리전스는 거의 모든 증거 기반 의사 결정에 대한 거의 보편적인 재료입니다.

철의 삼각형: 새로운 접근 방식을 찾을 때 더 나은, 더 빠르고 더 저렴한 솔루션을 찾고 세 가지 중 두 가지를 타협하는 것이 일반적입니다. 기술은 적절한 시간과 적절한 장소에서 타협할 수 있는 능력입니다. 해외 리소스를 사용하여 90%의 정확도를 달성하는 데 5,000달러가 들고 일주일이 걸리는 특허 검색의 가장 간단한 예를 들어보겠습니다. 이제 5분 이내에 80%의 정확도를 제공하는 AI 환경과 비교해보세요. 그리고 이것은 비용의 일부에 불과합니다.) 이 솔루션을 채택할지 여부에 대한 결정은 특정 상황에 따라 달라지며 완벽함에 대한 잘못된 탐구에 달려 있지 않습니다. 

내부 정보를 얻으세요: 시장은 혼란스럽고 모든 문제에 대한 새로운 솔루션이 있습니다. 가장 큰 가치를 제공하는 솔루션에 집중하면(완전히 주관적인 평가) 일반적으로 유망한 솔루션이 한정되어 있음을 시사합니다. 채택할 준비가 된 솔루션도 있고, 잘 개발되고 있는 솔루션도 있습니다. 두 경우 모두 텐트 안에서 자리를 확보하세요. AI의 최첨단에서 일하는 분석 제공자는 업계 지원을 환영합니다. 모든 답을 알고 있다고 생각하는 제공자는 일반적으로 그렇지 않습니다.

AI의 광범위한 채택에 대한 우려가 상당하며, 이로 인해 전 세계적으로 규제가 증가했습니다. 그러나 기술이 급속히 발전하는 시대에는 자체 규제가 종종 최선의 경로이며 장려되어야 합니다. 즉, 조직은 신뢰를 구축할 수 있는 명확성을 갖춘 윤리 및 책임 원칙을 개발, 유지 및 전달해야 하며 동시에 끊임없이 진화하는 AI 세계를 수용할 만큼 유연해야 합니다.

About Nigel

Nigel Swycher is co-founder and CEO of LexisNexis Cipher – His background is in law, where he led the IP practice at leading law firm Slaughter and May.

Nigel has been recognized for many years by the IAM 300 as a leader in the field of IP strategy.

FOLLOW NIGEL ON LINKEDIN