出现小三怎么办

我家里孩子现在一岁多了，丈夫也很喜欢孩子，但我丈夫有时会很奇怪，问他去哪他支支吾吾才说又和哪个同事出去有事，有时半夜才回来，开始的时候我也没多想，后来无意间我看到他手机里有别的女人的照片，还有和一个女人的聊天记录非常暧昧，我现在心里很崩溃，我还不确定他有小三了，但是这样的事情出现了绝对不正常，我现在还不想离婚，我现在应该怎么办？