Talvez sejam todos aqueles filmes do Exterminador do Futuro, romances de ficção científica e videogames pós-apocalípticos, mas faz sentido ter cautela com a inteligência artificial superinteligente, certa?

Para o bem de, bem, todos, duas grandes empresas no campo da IA ​​se reuniram para trabalhar em maneiras de evitar que as máquinas lidassem com os problemas de forma inadequada - ou imprevisivelmente..

OpenAI, um grupo fundado pelo tecno-empreendedor Elon Musk e Google DeepMind, a equipe por trás do novo campeão Go, AlphaGo, está unindo forças para encontrar formas de garantir que a inteligência artificial resolva problemas para padrões desejáveis.

Embora ainda seja mais rápido deixar uma AI resolver os problemas sozinha, a parceria descobriu que os humanos precisam intervir para adicionar restrições às restrições para treinar a IA para lidar com uma tarefa como esperado..

Menos trapaça, menos Skynets

Em um artigo publicado pela DeepMind e OpenAI funcionários, as duas empresas descobriram que a intervenção humana é fundamental para informar a AI quando um trabalho é realizado otimamente e corretamente - isto é, não para enganar ou cortar cantos para obter os resultados mais rápidos.

Por exemplo, dizer a um robô para embaralhar um ovo pode fazer com que ele bata um ovo na frigideira e chame-o de trabalho (tecnicamente) bem feito. Recompensas adicionais devem ser adicionadas para garantir que o ovo seja cozido uniformemente, temperado adequadamente, livre de fragmentos de conchas, não queimado e assim por diante..

Como você pode imaginar, definir funções de recompensa adequadas para IA pode levar uma grande quantidade de trabalho. No entanto, os pesquisadores consideram o esforço uma obrigação ética no futuro, especialmente à medida que as IAs se tornam mais poderosas e capazes de maior responsabilidade..

Ainda há muito trabalho a ser feito, mas, se nada mais, você pode se consolar com o fato de os principais pesquisadores da AI estarem trabalhando para garantir que robôs não sejam desonestos - ou, pelo menos, não arruinar o café da manhã.

Via com fio

  • Como uma IA conseguiu uma pontuação perfeita na Ms. Pac-Man