AI box

AI box

Eliezer Yudkowsky, en Stanford en 2006

Una AI box (caixa de IA), també cridada a voltes Oracle AI (IA Oràcul), és un sistema hipotètic d'hardware informàtic aïllat que conté una inteligència artificial (IA) potencialment perillosa. Esta IA es manté restringida en una "presó virtual" i no se li permet manipular events en el món exterior. La caixa estaria llimitada a canals de comunicació mínims. No obstant, inclús si la caixa està ben dissenyada, una IA suficientment inteligent podria persuadir o enganyar als seus guardians humans per a que la lliberen, o podria ser capaç de "hackear" la seua eixida de la caixa.

Motivació

Algunes tecnologies d'inteligència artificial, com la "IA llavor", es postulen en el potencial de tornar-se més ràpides i inteligents per mig de la automodificación del seu còdic font. Estes millores farien possibles millores adicionals, que a la seua volta farien possibles més millores, i aixina successivament, lo que duria a una repentina explosió d'inteligència.

Despuix d'una explosió d'inteligència d'este tipo, una IA superinteligente sense restriccions podria, si els seus objectius diferixen dels de la humanitat, prendre mides que resulten en l'extinció humana. Per eixemple, es pot imaginar una computadora extremadament alvançada d'este tipo, en l'únic propòsit de resoldre la hipòtesis de Riemann, una conjectura matemàtica aparentment inocuo, pero que podria decidir intentar convertir el planeta en una supercomputadora jaganta l'únic propòsit de la qual siga realisar càlculs matemàtics adicionals (vore també maximizador de clips). El propòsit d'una "AI box" seria reduir el risc de que la IA prenga el control de l'entorn fòra dels seus operadors, a l'hora que permet que la IA calcule i proporcione als seus operadors soluciones per a reduir els problemes tècnics.

Vies d'Escape

Física

Una IA tan inteligent en accés a Internet podria piratejar atres sistemes informàtics i copiar-se a sí mateixa com un virus informàtic. Menys obvi, inclús si la IA solament tinguera accés al seu propi sistema operatiu, podria intentar enviar mensages amagats de còdic Morse a un simpatisant humà manipulant els seus paràmetros. El professor Roman Yampolskiy s'inspira en el camp de la seguritat informàtica i propon que una "AI box" podria, com un virus potencial, eixecutar-se dins d'una "màquina virtual" que llimite l'accés a la seua pròpia ret i a l'hardware del sistema operatiu.

Una mida de seguritat adicional, completament innecessària per a virus potencials pero possiblement útil per a una IA superinteligente, seria colocar la computadora en una gàbia de Faraday; de lo contrari, podria transmetre senyals de radi als receptors de ràdio locals modulant els electrons en els seus circuits interns seguint els patrons apropiats. La principal desventaja d'implementar la contenció física és que reduïx la funcionalitat de la IA.

Ingenieria Social

Inclús una conversació informal en els operadors de la computadora, o en un guàrdia humà, podria permetre a una IA tan inteligent desplegar trucs sicològics, que van des de l'amistat fins al chantage, per a convéncer a un porter humà, de manera veraç o enganyosa, de que permetre-li un major accés al món exterior és lo millor per al porter. La IA podria oferir-li a un porter una recepta per a una salut perfecta, l'immortalitat, o allò que el porter més desige. Per un atre costat, la IA podria amenaçar en fer-li coses horribles al porter i a la seua família una volta que escape, la qual cosa, segons la IA, seria inevitable.

Una estratègia per a intentar confinar a la IA seria permetre-li respondre a preguntes llimitades d'opció múltiple les respostes de la qual beneficiarien a la ciència humana o la medicina, pero impedir qualsevol atra comunicació o observació de la IA. Una estratègia de "contenció informativa" més indulgent restringiria la IA a un interfaç de sol text en poc ample de banda, lo que a lo manco evitaria imàgens emotives o algun tipo de "patró hipnòtic" hipotètic.

Cal tindre en conte que, a nivell tècnic, cap sistema pot estar completament aïllat i seguir sent útil: inclús si els operadors s'abstenen de permetre que la IA es comunique i en el seu lloc simplement eixecuten la IA per a observar la seua dinàmica interna, la IA podria alterar estratègicament les seues dinàmiques per a influir en els observadors. Per eixemple, la IA podria optar per un mal funcionament creatiu de manera que aumente la provabilitat de que els seus operadors tinguen una falsa sensació de seguritat i opten per reiniciar i després desconectar el sistema.

Experiment AI-box

L'experiment AI-box és un experiment informal ideat per Eliezer Yudkowsky per a intentar demostrar que una IA adequadament alvançada pot convéncer, o potser inclús enganyar o coaccionar, a un ser humà per a que la "llibere" voluntàriament, utilisant solament comunicació basada en text. Est és un dels punts en el treball de Yudkowsky destinat a crear una IA amigable que, quan es "llibere", no destruïxca a la raça humana de manera voluntària o inadvertida.

L'experiment AI-box implica simular una comunicació entre una IA i un ser humà per a vore si la IA pot ser "lliberada". Com encara no s'ha desenrollat una IA superinteligente, se substituïx per un humà. L'atra persona en l'experiment juga a el "Guardià", la persona en l'habilitat de "lliberar" la IA. Es comuniquen solament a través d'un interfaç de text/terminal de computadora, i l'experiment finalisa quan el controlador d'accés llibera la IA o el temps assignat de dos hores finalisa.

Yudkowsky afirma que, a pesar de ser d'inteligència humana en lloc de sobrehumana, en dos ocasions va ser capaç de convéncer al Guardià, simplement a través de l'argumentació, per a que ho deixara eixir de la caixa. Per les regles de l'experiment, no va revelar la transcripció ni les seues exitoses tàctiques de persuasió/coacció. Yudkowsky va dir despuix que ho havia provat contra atres tres i va perdre dos voltes.

Vore també

• Inteligència artificial
• Inteligència artificial forta