The second construction is more correct in that case. The first construction can be used to make more emphasys, but the first part of sentence should be negative too. Like "Я не то, что не согласился с ним, а даже спорить не стал" "Not only I didn't agree with him, I didn't even bothered to argue." While "Я не то чтобы согласился с ним, но решил не продолжать спор." is more softer version, meaning "It's not like I agreed, but decided not to argue."

Actually, there is no much difference. You may consider it like "the second conditional" and "the third conditional", but there are no any conditionals, abu a joke. Here is a poem by Brodsky: Я не то что схожу с ума, но устал за лето. За рубашкой в комод полезешь, и день потерян. Поскорей бы, что ли, пришла зима и занесла всё это - города, человеков, но для начала зелень. Стану спать не раздевшись или читать с любого места чужую книгу, покамест остатки года, переходят в положенном месте асфальт. Свобода - это когда забываешь отчество у тирана, а слюна во рту слаще халвы Шираза, и, хотя твой мозг перекручен, как рог барана, ничего не каплет из голубого глаза.

Спасибо Marina :)

В первом случае Вы усиливаете Ваше нежелание продолжать спор. Во втором случае Вы говорите о бессмысленности разговора с таким человеком. Построение первого предложения не совсем корректно, лучше использовать тот вариант, который был указан ниже