Căn cứ quy định tại khoản 3 Điều 167 Luật đất đai 2013 quy định hợp đồng chuyển nhượng quyền sử dụng đất phải có chứng nhận của công chứng hoặc chứng thực của Uỷ ban nhân dân xã, phường, thị trấn nơi có đất

“3. Việc công chứng, chứng thực hợp đồng, văn bản thực hiện các quyền của người sử dụng đất được thực hiện như sau:

Hợp đồng chuyển nhượng, tặng cho, thế chấp, góp vốn bằng quyền sử dụng đất, quyền sử dụng đất và tài sản gắn liền với đất phải được công chứng hoặc chứng thực, trừ trường hợp kinh doanh bất động sản quy định tại điểm b khoản này;”
Việc gia đình mua đất nhưng chỉ viết giấy tay, không lập thành hợp đồng và không có chứng nhận của công chứng nên giao dịch mua đất của gia đình vô hiệu về mặt hình thức theo quy định tại Khoản 1 Điều 129 Bộ luật Dân sự 2015. 

Về điều kiện thực hiện giao dịch chuyển nhượng quyền sử dụng đất quy định tại Luật Đất Đai 2013 quy định tại Điều 188. Điều kiện thực hiện các quyền chuyển đổi, chuyển nhượng, cho thuê, cho thuê lại, thừa kế, tặng cho, thế chấp quyền sử dụng đất; góp vốn bằng quyền sử dụng đất như sau:

1. Người sử dụng đất được thực hiện các quyền chuyển đổi, chuyển nhượng, cho thuê, cho thuê lại, thừa kế, tặng cho, thế chấp quyền sử dụng đất; góp vốn bằng quyền sử dụng đất khi có các điều kiện sau đây:

a) Có Giấy chứng nhận, trừ trường hợp quy định tại khoản 3 Điều 186 và trường hợp nhận thừa kế quy định tại khoản 1 Điều 168 của Luật này;

b) Đất không có tranh chấp;

c) Quyền sử dụng đất không bị kê biên để bảo đảm thi hành án;

d) Trong thời hạn sử dụng đất.

Theo thông tin bạn cung cấp, thửa đất đang đứng tên anh em của người bán, chưa sang tên họ, thửa đất không đáp ứng điều kiện để chuyển nhượng quyền sử dụng đất theo quy định pháp luật.

Trong thực tế gia đình đã trả 200 triệu đồng trên tổng 300 triệu tiền chuyển nhượng quyền sử dụng đất, tức đã thực hiện được 2/3 nghĩa vụ trong giao dịch. Tuy nhiên do quyền sử dụng đất không thuộc của bên chuyển nhượng nên việc chuyển nhượng không đáp ứng điều kiện chuyển nhượng, giao dịch vô hiệu do vi phạm điều cấm của Bộ luật Dân sự  Điều 123. Giao dịch dân sự vô hiệu do vi phạm điều cấm của luật, trái đạo đức xã hội

Giao dịch dân sự có mục đích, nội dung vi phạm điều cấm của luật, trái đạo đức xã hội thì vô hiệu.

Điều cấm của luật là những quy định của luật không cho phép chủ thể thực hiện những hành vi nhất định.

Đạo đức xã hội là những chuẩn mực ứng xử chung trong đời sống xã hội, được cộng đồng thừa nhận và tôn trọng.

Nếu hai bên thoả thuận được về việc hoàn trả lại cho nhau những gì đã nhận thì bạn thực hiện theo thoả thuận. Nếu không thoả thuận được thì bạn có thể khởi kiện tại Toà án nhân dân cấp huyện nơi có bất động sản để được giải quyết.