Плохо ли то, что оно не будет похоже на нас, что это не будет «Humanlike AI»? Повторюсь, что это не просто НЕ плохо, это, по-моему, сильно повышает шансы людей на выживание. Нам решительно не нужен аналог непредставимо гениального человека с присущим людям набором особенностей поведения и целеполагания. Если этот «интеллект» будет человекообразным, то нам точно пиздец. Оно сделает то, что никак не можем сделать мы сами – перебьет всех «не своих», а «своим» для него будет только оно само, т.к. ни семьи, ни нации у него не будет. Я могу судить по себе, и, поверьте, вы едва ли лучше, даже если не можете себе в этом признаться из-за этических установок. Дай любому человеку неограниченную власть и неограниченный интеллект, и он очень быстро снимет любые этические барьеры и рационализирует для себя ненужность «не своих». Если оно будет «иным», если конфликт интересов будет минимизирован, то шансов на мирное сосуществование станет больше.