过着夫妻生活,经常发生性生活,比夫妻还要亲密的程度,他俩并有想结婚的想法,他俩的行为构成犯罪吗？

各位律师：
如果男的有妻，女的有夫，双方都还没有离婚，可他们俩背着两个家庭经常生活在一起，过着夫妻生活，经常发生性生活，比夫妻还要亲密的程度，他俩并有想结婚的想法。他俩的行为构成犯罪吗？男的因要跟这个有家的女人过夫妻生活，拒绝与自己老婆同居，不准自己老婆生活在他身边。第三者经常主动到老公居住地方赔他，并发生性关系。这是否算非法同居呢。这个男的当着自己的老婆自称：要跟那位女人发生一辈子性关系，不可能离开她，天天跟她在一起上班一起生活不可能离开她。他这辈子不会离开那个女人，也不肯离婚，可他自己的孩子还是哺乳期间。我该怎么对待这个问题啊。不过他俩的这种行为邻居都知道的，都看到他们在一起，他们对外只告诉别人他们有性关系，但还没有对外说是夫妻关系。关于这个第三者是否算侵犯配偶权力，有没有什么办法让他俩判刑。

虽然很亲密，如果没有以夫妻名义公开同居，也不构成重婚罪。况且证据也很难举证。